\

百度飞桨在Graphcore IPU上实现训练与推理全面支持

作者:

分享  

Share on weixin
Share on weibo
Share on linkedin

订阅

今日,在2021 Wave Summit+上,百度深度学习平台飞桨正式发布在Graphcore IPU上实现训练和推理全流程支持的开源代码库,飞桨模型库如Bert、ERNIE等也正逐步在IPU上实现支持。自此,百度飞桨的开发者可以在IPU这一专为机器智能从零设计的创新架构上进行AI模型加速,而IPU的全球用户也可以使用百度飞桨框架探索深度学习。对Graphcore而言,此举将极大地扩展IPU的中文社区,中文生态系统进一步繁荣。

百度飞桨与Graphcore的合作

百度飞桨是中国领先的产业级深度学习平台,目前累计开发者数量超过406万,服务企业数量15.7万家,创建了超过47.6万个模型,为中国AI社区的繁荣做出巨大贡献。Graphcore(拟未)是飞桨硬件生态圈的初始成员之一,作为飞桨的重要硬件合作伙伴,Graphcore将通过云端和数据中心的IPU技术助力飞桨开发者实现AI模型的大幅加速,同时为使用飞桨的企业提供基于IPU的产品方案,帮助飞桨的企业级客户提升数据中心效率。通过大幅提升模型的性能和运行速度,缩短研发周期,加快AI模型落地应用,同时降低计算成本。

目前Graphcore IPU支持通过飞桨完成大规模的模型训练任务,也支持通过飞桨推理库执行高性能的推理任务。双方团队通过在16个IPU组成的IPU-POD16上做数据并行与模型并行,并在Bert-Base模型上进行了精读和吞吐量验证,取得了良好的性能效果。结果证明,运行在IPU硬件上的百度飞桨解决方案,在目前主流的AI训练任务和前沿AI创新模型任务上,可以取得很好的加速效果。IPU良好的系统扩展性使得用户可以根据任务需求灵活进行性能扩展。

百度飞桨产品团队负责人赵乔表示:“Graphcore是百度飞桨一直以来的好朋友和重要伙伴,非常高兴宣布百度飞桨在Graphcore IPU上完成训练和推理的支持,这是我们飞桨硬件生态一次重要的升级。百度飞桨模型库中的模型如Bert在IPU上实现了很好的训练和推理性能。同时,Graphcore的深度学习引擎PopART具有的良好可用性,也支持飞桨在IPU上的适配变得简易。我们将和Graphcore深化合作,将飞桨模型库更多的模型迁移到IPU上,共同打造基于飞桨和IPU的世界级AI解决方案,赋能AI开发者和企业。”

Graphcore IPU开发者社区

随着Graphcore在中国不断深耕,其中文IPU社区和生态系统在不断扩大。此次引入百度飞桨深度学习平台,除了是其软件Poplar SDK的重要扩充,也为Graphcore客户,尤其是中国客户的工具箱中多放入一件重要工具。通过对百度飞桨的支持,Graphcore支持其客户能够在更多框架上进行探索,IPU硬件架构的潜能优势将得以进一步释放。

Graphcore中国工程总负责人、AI算法科学家金琛表示:“IPU对百度飞桨的支持,是Graphcore Poplar SDK的重要升级,也是IPU生态系统的一次重大更新。百度飞桨是中文AI社区的翘楚,通过与百度飞桨合作,我们希望能够扩大IPU中文社区,让更多中国的开发者能够打破传统硬件的桎梏,在IPU上进行创新突破,帮助他们解决棘手的深度学习难题。”

Graphcore中国工程总负责人、AI算法科学家金琛在2021 Wave Summit+上介绍IPU上的百度飞桨

代码开源

百度飞桨和Graphcore IPU精神的相通之处,就是开源精神,将权力交给AI开发人员,使他们能够自由地进行创新。Graphcore制造硬件和开发软件都遵循这一宗旨。百度飞桨在IPU上相关的代码和模型代码资源已经在Graphcore GitHub和百度飞桨GitHub开源,在双方的GitHub以及Graphcore的官网开发者页面也附上了详细的教程。同时,使用了飞桨的Bert-Base也已经在Graphcore的Model Garden里开源,广大开发者可以前往双方的资源池进行探索、调取和使用。

More Posts

加速部署!Graphcore携手百度飞桨成功实现FastDeploy适配

新增FP8!Graphcore推出新一代PCIe加速卡C600 

两项第一!Graphcore在OGB-LSC中取得佳绩

稀疏化80%!Graphcore携手Aleph Alpha解锁人工智能计算效率新突破

助力科研!阿贡国家实验室新引入Graphcore Bow IPU人工智能系统

开始使用Poplar Triton后端

获取最新的GRAPHCORE资讯

在下方注册以获取最新的资讯和更新:




    获取最新的GRAPHCORE资讯

    在下方注册以获取最新的资讯和更新: