在英国的AI芯片公司Graphcore于本周四宣布了其新一代IPU产品Bow，这是该公司第三代IPU系统，也标志着对外正式向客户交付。与上一代相比，Bow IPU性能提升40%，能耗比提高16%，电源效率同样提升16%。值得注意的是，尽管采用了相同的台积电7nm制程，但通过3D Wafer-on-Wafer（WoW）技术实现了性能和能耗的提升。
作为全球首款3D WoW处理器，Bow IPU证明了从先进制程到先进封装技术进行性能提升的可行性。这意味着未来芯片制造业可能会更多地依赖封装技术来突破物理极限，而不是仅仅依赖更小的工艺制程。
Graphcore自2016年成立以来，其IPU逐渐在金融、医疗、通信、机器人、云计算和互联网等领域取得了一定的成效。本次推出的第三代产品Bow IPU不仅保持价格不变，还提供了显著的性能提升。在图像识别方面，无论是传统CNN网络还是近期流行的Vision Transformer网络，以及深层文本到图片转换网络，与上一代相比，Bow IPU都有30%到40%以上的性能增强。
BERT训练模型是自然语言处理领域的一个经典案例，对此Graphcore中国工程副总裁兼AI算法科学家金琛表示：“我们可以看到这些模型在我们的最新硬件形态上都有很大的性能提升。”
除了图像识别和自然语言处理之外，转换至实际应用中的吞吐量也得到显著提高。在计算机视觉ResNet50和EfficientNet-B4训练模型中，Bow Pod64能够达到34%至39%以上的吞吐量增长。而对于BERT-Large Ph1预训练模型和语音识别Conformer Large训练模型，都分别有36%以上吞吐量增加。
为了验证这一点，Graphcore还将其Bow Pod16与英伟达DGX-A100进行对比实验结果显示，在EfficientNet-B4 backbone训练过程中，只需14小时左右，而DGX-A100需要70小时左右，即使考虑不同硬件平台之间存在差异，这样的比较仍然展示出新的Ipu具有超越当前主流GPU解决方案潜力的能力。
接下来，我们将探讨如何实现这样的高效性以及它所代表的一种可能性——即通过结合芯片制造与封装技术来创造出超越目前摩尔定律限制的大规模并行计算能力。这种趋势已经被一些行业专家认为可能会成为未来的一个重要方向，因为随着工艺制程接近物理极限，一些创新思路变得尤为重要，如使用三维堆叠结构等，以便进一步改善集成电路（IC）的功能密度及功耗表现。此外，由于单个Die晶体管数量已接近理论上的极限，因此研究人员们开始寻找其他方法以获得额外晶体管，从而进一步提高设备性能，比如采用多层或复杂三维结构以增加存储容量或执行单元数目，并且利用这些资源来加速数据传输速度，从而最终影响整体设备功耗水平及其速度。但这种做法需要新的设计理念、新型材料以及精确控制微观尺寸变化等尖端科技支持才能实现。而这正是在中国首台3纳米光刻机研发成功后的一大展望，它为相关产业带来了前所未有的发展空间，为探索更高级别集成电路设计提供了关键工具，使得之前看似不可想象的事情现在变得更加现实化。
