在Hot Chips 2021大会上,Graphcore联合创始人兼CTO Simon Knowles就Colossus™ GC200智能处理器(IPU)的设计和功能发表了详细的技术主题演讲。
Simon Knowles阐述了业界对于专业AI处理器的需求。这种专业的AI处理器可以作为开启AI研究新方向的一种方法。此外,Simon Knowles还讨论了稀疏计算作为处理人类级别机器智能所需的数万亿参数模型的一种方法的重要性。
Simon Knowles在演讲中谈及的IPU设计特点包括:
- GC200的1472个并行处理核心和900MiBytes的片上存储
- Graphcore在芯片和系统层面实现超高带宽的方法
- DRAM Exchange Memory与片外HMB的经济和性能比较
- 使用批量同步并行来调度计算和通信周期
- Tile设计和冗余
- 能源使用
- Mk1 Colossus IPU的经验总结
了解更多
查看有关Hot Chips 2021的更多信息