在英国的AI芯片公司Graphcore于本周四宣布了其第三代IPU产品Bow,这款新产品不仅性能提升40%,而且能耗比提升16%,电源效率也增加了16%。值得注意的是,Bow IPU并没有采用更先进的制程,而是依靠台积电7nm制程和3D Wafer-on-Wafer技术实现性能提升。
Bow IPU作为全球首款3D WoW处理器,证明了从先进制程到先进封装的技术转变是可行的。这意味着尽管芯片制造业长期以来一直追求更小、更快、更强,但随着工艺制程接近物理极限,行业开始寻找新的技术方向来维持摩尔定律。
Graphcore成立于2016年,以其创新的IPU架构赢得了半导体界人的认可。经过六年的发展,Graphcore在金融、医疗、通信、机器人和云计算等领域取得了一定的成果。本次推出的第三代IPU相较上一代M2000有显著提升,在图像识别方面尤为突出,其在EfficientNet-B4上的性能提高达到了30%至40%。
除了图像识别,本次更新还包括BERT模型训练方面的优化。在这个自然语言处理领域中,Bow IPU显示出了明显的优势,与上一代相比,它能够提供30%至40%以上的性能提升。此外,对于实际应用场景,如ResNet50和EifficientNet-B4模型训练,以及BERT-Large Ph1预训练模型和语音识别Conformer Large 训练模型,本次更新都带来了36%左右吞吐量的提高。
与英伟达A100进行对比后,我们发现,即使是在EfficientNet-B4 backbone训练过程中,由于Bow Pod16可以缩短到14小时,而A100需要70小时,这进一步展示了新一代IPI在实践中的优势。