POPLAR计算图框架软件

与IPU一同为机器智能从零设计

与IPU一同为机器智能从零设计

关于Poplar ®

Poplar SDK是一个与IPU一同从零设计的完整软件栈。通过Poplar SDK，您可以在灵活易用的软件开发环境中使用我们的计算图工具链。

在较高的层次上，Poplar与标准的机器学习框架完全集成，因此开发人员可以轻松移植现有模型，并在熟悉的环境中立即启动和运行新的应用程序。

这些框架之下便是Poplar。对于希望获得完全控制以发挥IPU最大性能的开发人员，Poplar支持使用Python和C ++直接进行IPU编程。

Poplar与标准机器智能框架无缝集成：

PopLibs是一套完整的库并已开源，支持常见的机器学习原语和构建块：

我们先进的编译器通过处理大型并行程序（包括存储控制）的调度和工作分区，简化了IPU编程：

高性能Graph Runtime，用于执行模型，并通过IPU上运行的模型实现数据流式传输：

在模型尺寸不断扩大、复杂性日益增加的世界中，Poplar承担了繁重的工作，使您免于辛劳：

为帮助开发者克服AI应用部署的时延痛点，Graphcore搭配C600推出了高性能推理SDK——PopRT，帮助开发者实现零代码推理部署已经训好的模型，同时带来低时延和高吞吐量，极大缩短AI业务商业变现时间窗口，为企业用户赢得市场先机。PopRT包括转换器、编译器和运行时：

转换器提供对op-fusion、constant-folding等广泛使用的优化方法内置支持；提供对FP16和FP8训练后量化的内置支持，这种训练后量化可以实现更低的时延和更高的吞吐量，并且精度损失很小；支持将多个模型融合为一个
编译器支持模型切分和流水线，为运行时导出PopEF（Poplar可执行格式）
运行时支持自动批处理；支持移除填充以减少对自然语言处理（NLP）模型的无用计算（或通过移除填充对自然语言处理模型进行更有效的推理）；支持针对CV（计算机视觉）模型的多模型推理