Graphcore正在一项欧洲的全新项目中发挥核心作用。该项目旨在创建一个超算框架,该框架专门为在新兴人工智能应用程序中充分利用稀疏计算的性能和能效而设计。
这项为期三年的SparCity项目已获得260万欧元的资金,是更广泛的欧洲高性能计算共同计划(EuroHPC Joint Undertaking,EuroHPC JU)的一部分。该共同计划于2018年启动,旨在通过开发多个百亿亿次级的超级计算机,提高欧洲大陆在高性能计算方面的竞争力。
该项目中开发的工具将用于在现实世界的四个领域中证明该框架的有效性:计算心脏病学、社交网络、生物信息学和自动驾驶。
作为提交原始项目提案的机构之一,Graphcore对SparCity项目的参与反映了我们对开发下一代人工智能方法的承诺。
我们与公共和私人研究机构的合作有助于确保Graphcore的计算系统不仅能够助力人工智能发展新方向,而且还可以确保最新研究为我们的产品开发提供信息。
如果稀疏计算在过去几年取得的进展能够得以保持甚至加速,那么它将被广泛视为人工智能发展的关键下一步。
可持续计算
到目前为止,由于有意义的参数稀疏地分布在同一模型中,因此许多用于运行人工智能模型的计算能力被花费在了与需要解决的问题无关的参数上执行数学运算。
人工智能模型的大小和复杂性呈指数级增长,使得花费时间和精力处理无价值数据的效率低下问题变得更加严重。
稀疏计算涉及新技术,简单来说,这些新技术将处理能力集中在与解决特定任务最密切相关的模型元素上。这种方法类似于人脑——人脑在引导来自视觉刺激的信号时,仅通过处理视觉的神经通路,而非调动大脑中的每个神经元。
Graphcore IPU技术专门为人工智能计算而设计。它包括一些特质,诸如能够独立地和并行地执行许多迥然不同的计算的能力。这些特质对于稀疏计算是必不可少的。
稀疏性也在软件层面得到了稀疏内核和库的支持。这些将被使用在本项目中,并被进一步开发。
项目结构与目标
SparCity的初始提案在欧洲委员会“Horizon 2020”研究与创新框架计划的评估中获得了最高分。
除了Graphcore,SparCity还有其他参与方,包括土耳其的萨班哲大学、挪威的Simula研究实验室、葡萄牙的INESC-ID以及德国的慕尼黑大学,并由土耳其的科奇大学进行协调。
该项目围绕多个“工作包”进行组织,其总体目标是提供一套连贯的技术功能,从而能够对一系列广泛的应用程序中的稀疏计算进行深入分析和优化。
该过程将涉及性能和功耗建模,并使用所得模型推动优化。考虑因素将包括支持数据存储和移动、精度和内核实现的设计选择。
在整个项目中,这些工具将应用于前面提到的四个参考应用程序:计算心脏病学、社交网络、生物信息学和自动驾驶。使用这些应用程序将确保这些工具的普遍适用性。
访问sparcity.eu,查看有关该项目的更多信息。