在英国的AI芯片公司Graphcore于本周四宣布了其第三代IPU产品Bow，这款新产品是面向客户即时发货的。与上一代IPU相比，Bow IPU性能提升40%，能耗比提升16%，电源效率也提升16%。值得注意的是，这次性能提升并非主要依赖更先进的制程，而是通过采用台积电共同开发的先进硅晶圆堆叠技术（3D Wafer-on-Wafer）实现。
Bow作为世界首款3D WoW处理器，证明了从先进制程向先进封装转移性能提升范式的可行性。这表明，在摩尔定律逐渐失效的情况下，通过改变封装方式而不是更换工艺，可以实现同样程度的性能和能效提高。
Graphcore成立于2016年，由英国半导体之父Hermann Hauser创立，以其创新性的架构被誉为计算机历史上的第三次革命。经过六年的发展，Graphcore在金融、医疗、通信、机器人、云服务和互联网等领域取得显著成就。本次发布的第三代IPU系统进一步巩固了Graphcore在AI领域的地位。
对于Bow IPU在不同垂直领域中的表现，Graphcore提供了详细数据。在图像识别方面，无论是CNN网络还是近期流行的Vision Transformer网络，以及深层文本到图片网络，与上一代产品相比,Bow IPU都有30%到40% 的性能提升。在BERT训练模型方面，即自然语言处理中经典模型，本次更新带来了显著改善。
此外，对于实际应用中的吞吐量测试结果显示，与前一代POD64相比，在计算机视觉ResNet50 和 EifficientNet-B4 训练模型中,Bow Pod64 提升34%至39% 的吞吐量。在自然语言处理Bert-Large Ph1 预训练模型和语音识别Conformer Large 训练模型中，也分别达到了36% 的吞吐量增强。此外，将Bow Pod16 与DGX-A100进行对比实验数据表明，在相同任务下，只需14小时，而不需要70个小时，从而验证了Bow IPU 在实际应用中的高效性。
关于为什么选择采用7nm工艺而非5nm或更小尺寸工艺卢涛解释说，因为从7nm到5nm之间所带来的收益并不像过去从28nm到14nm那样巨大，只有20%，因此通过其他手段获得同样的收益更加经济有效。例如，使用3D堆叠技术增加晶体管数量，并优化跨Die电源功率传输，从而提高整体算力和吞吐量。
值得指出的是，即使采用新的封装方式，但Bow IPU保持与前一代完全软件兼容，不需要用户修改任何代码或进行适配工作，同时价格保持不变。这意味着老用户可以直接享受到新技术带来的优势，而无需额外投资。此外，一些美国国家实验室已经开始尝试基于 Bow IPU 进行一些研究，并给出了正面的反馈，为未来 Graphcore 开发的人工智能超级计算机Good Computer奠定基础。
