在英国的AI芯片公司Graphcore于本周四宣布了其第三代IPU产品Bow，这款新一代的处理器不仅性能提升40%且能耗比提升16%，而且电源效率也得到了16%的提升。值得注意的是，Bow IPU并未采用更先进的制程，而是通过台积电共同开发的先进硅晶圆堆叠技术（3D Wafer-on-Wafer）实现了这些显著改进。
作为全球首款3D WoW处理器，Bow证明了从先进制程向先进封装转移性能提升范式的可行性。这意味着，即便是在7nm制程上，通过创新封装技术也可以达到与更小制程相媲美甚至超越其性能水平。
Graphcore成立于2016年，并创造了一种全新的类型处理器架构IPU，该架构曾被英国半导体之父Hermann Hauser誉为计算机历史上的第三次革命。经过六年的发展，Graphcore在金融、医疗、通信、机器人、云和互联网等多个领域取得了显著成果。
图像识别方面，无论是传统CNN网络还是近期流行的Vision Transformer网络，以及深层文本到图片转换网络，与上一代相比,Bow IPU都有30%到40%的性能提升。在BERT训练模型中，一个自然语言界经典模型，本身就是纵向扩展或横向扩展基础，如OpenAI提出的GPT-1、GPT-2、GPT-3等。这些模型在最新硬件形态下均显示出巨大的性能提升。
除了图像和自然语言处理外，转换至实际应用中的吞吐量与IPU POD64相比，在计算机视觉ResNet50和EfficientNet-B4训练模型中，Bow Pod64展示了34%-39%及36%吞吐量增强。此外，与英伟达DGX-A100进行对比实验表明，对于EfficientNet-B4 backbone训练所需时间由70小时减少至14小时左右。
这如何实现？答案就在于5nm不再是首选，而是采用先进封装性价比更高。在晶片规格上看，每个封装内拥有超过600亿个晶体管，是上一代MK2 IPU的一倍多。虽然没有改变工艺制程，但这种3D封装方式使得算力和吞吐量得到显著提高，同时保持0.9GB内存容量但增加到65TB吞吐量，从47.5TB翻番增长。
卢涛大中华区总裁兼全球首席营收官指出，“变化主要体现在，它是一个3D封装的处理器，不同Die数量增加，使算力和吞吐量均得到提升。”理论上，一颗芯片性能靠近物理极限时，将寻求新的技术方向来延续摩尔定律，其中包括3D封装技术。而这个Bow IPU正好验证这一观点。
价格保持不变，这对于老用户来说意味着无需任何软件适配工作即可获得新一代产品带来的额外效益。这项科技正在被美国国家实验室Pacific Northwest用于基于Transformer模型以及图神经网络面向计算化学和网络安全领域应用，并给出了积极反馈。
未来看来，更令人振奋的是Graphcore正在开发一种名为Good Computer的人工智能设备，其目标是在超越人类智慧之路上迈出一步。预计将包含8192个IPU提供超过10 Exa-Flops AI算力以及4 PB存储能力，有望助力500万亿参数规模的人工智能模型开发。但Good Computer价格将介乎100万美元至1.5亿美元之间，这取决于配置选择。此举旨在探索类脑级别的大数据分析能力，为社会带来革新性的影响。
