\

韩国电子通信研究院和Graphcore合作 针对大模型开发高效软件

作者:

分享  

Share on weixin
Share on weibo
Share on linkedin

订阅

Graphcore和韩国电子通信研究院(ETRI)建立多年合作伙伴关系,为高效的人工智能计算开发新的软件方法。

按研发支出和许可收入计算,ETRI是韩国最大的公共研究机构。从2022年到2025年,在韩国政府的资助下,这一合作伙伴关系将结合ETRI的出众能力与Graphcore在为机器智能开发和商业化高效、高性能计算系统方面的公认领导地位。

满足不断增长的模型的要求

近些年,用于自然语言处理(NLP)等任务的先进模型在规模上呈指数级增长,从几亿个参数增长到几千亿个参数,并且这一趋势仍将向万亿参数规模发展。

以节约成本和时间的方式训练此类模型将变得越来越具有挑战性,特别是晶体管密度、时钟速度和算术精度的提高不再能满足模型大小的增长速度。

Graphcore和ETRI之间的合作正是针对这一问题,通过探索新的软件方法,以提高人工智能计算性能、效率和可及性,并减少拥有成本以及对单一系统和技术的依赖。

拥有成本、独立性和便利性

在双方的合作关系中,对三个主要考量因素的定义如下:

拥有成本——解锁新的性能和效率提升,以减轻与维护用于训练越来越大的模型的计算资源有关的成本。

独立性——培养一种环境,使开发者能够在更广泛的具有竞争力的高效设备结构和加速器技术中进行选择。

便利性——通过找到更简单的将系统优化技术应用于新模型的方法,减少开发并行模型的成本和复杂性。

根据这一合作关系,ETRI将主要负责开发提高性能、效率、便利性和独立性的软件。Graphcore将通过提供技术验证和与潜在商业化有关的指导来支持ETRI。

ETRI负责人Kim Myung-joon说:“人工智能革命应该向每个人开放,而不是受制于过高的成本或时间投入,或受制于技术同质化。我们非常高兴能与Graphcore合作,降低进入门槛,扩大开发者使用最新的先进人工智能模型的选择范围。”

Graphcore销售高级副总裁Fabrice Moizan说:“作为我们的合作伙伴,ETRI和我们一样致力于识别和开发技术,以有效地满足快速变化的人工智能需求。我们相信,我们为机器智能开发高效、大规模并行计算系统的经验将帮助ETRI找到新的方法,以减轻与广泛使用的人工智能计算系统有关的技术限制和拥有成本负担。”

从用于自然语言处理的GPT和BERT到用于计算机视觉的EfficientNet和ResNet,再到图神经网络等等,Graphcore的IPU技术为广泛的人工智能应用提供大规模的现实世界中的性能优势。

继今年推出最新的Bow IPU处理器和Bow Pod系列人工智能计算机系统之后,Graphcore已经着手开发下一代IPU技术,以便为世界上第一台能够超越大脑参数能力的超级智能AI计算机 ——Good™ Computer(古德计算机)提供动力。关于Good™ Computer的进一步更新将在未来几个季度发布,这种超级智能机器将使人工智能的下一个突破成为可能,Graphcore期待与那些能够帮助开发下一个人工智能突破的公司和人工智能创新者合作。

More Posts

卢涛:后登纳德时代,IPU架构引领Transformer向高阶版演进

GACS 2023 | IPU:赋能生成式AI,不止生成式AI

Graphcore携手Pienso荣获CogX最佳创新类别的自然语言处理奖

Graphcore加入PyTorch基金会

促进低精度数字格式使用,Graphcore发布全新Unit Scaling库

情人节之“AI”跨山海——拟未“AI”的故事绘画连载(三)

获取最新的GRAPHCORE资讯

在下方注册以获取最新的资讯和更新:




    获取最新的GRAPHCORE资讯

    在下方注册以获取最新的资讯和更新: