微软在去年底投资了一家叫做Graphcore的公司,该公司创立于2016年,创立至今已经成功募集到了2亿美元的融资,但其产品至今仍保持神秘,并未与世人见面。
而该AI芯片的首秀献给了微软。微软近日公布,Graphcore芯片方案将会被应用在微软的云计算平台上。
与大多数用于AI的芯片不同,Graphcore的处理器从零开始设计,目标是支持机器识别面部、理解语音、解析语言、驾驶汽车和训练机器人的计算等应用 。
Graphcore预计将吸引在AI上运行关键业务操作的企业客户,例如自动驾驶汽车公司,贸易公司以及利用AI处理大量视频和音频的服务业者。不只是行业客户,他们也期待从事下一代AI算法的开发人员能深入探索该平台的优势。
根据微软和Graphcore所发布的基准测试结果表明,该芯片使用为那些竞争对手平台编写的算法,可以达到或超过NVIDIA和Google的顶级AI芯片的性能。 专为Graphcore硬件编写的代码可能会更加高效。
两家公司声称,例如,某些图像处理任务在Graphcore的芯片上的工作速度比使用现有代码的竞争对手要快许多倍。
尤其是在BERT框架方面,该方案能够表现出极高的效率,这对于涉及语言的AI应用非常重要。谷歌最近表示,他们正在使用BERT为其核心搜索业务提供更优秀的解决问题能力。微软对此也表示,他们目前的核心研发方向,正是将Graphcore的芯片用于涉及自然语言处理的内部AI研究项目。
Moor Insights的AI芯片市场研究员Karl Freund说,从测试数据结果表明,该芯片效率极高,且依旧保持非常好的弹性。一般来说,高度专用化的芯片可能在某些方面胜过NVIDIA或Google的芯片,比如说中国的许多AI芯片业者,都推出过性能极高的AI芯片,但缺乏弹性,让这些AI芯片很难被客户接受并导入到产品中。对客户而言,具备解决问题的能力才是AI芯片的关键,至于仅能在少数跑分环境中得到高分,这个不叫做优势,而是虚假宣传。
与微软的交易对于Graphcore的业务至关重要,毕竟Graphcore的芯片是前所未见的全新方案,因此对某些应用而言,该芯片理论性能虽可能要优于现有硬件,但是要为新平台重新开发AI代码需要花费大量精力。而该芯片的基准测试还不足以吸引公司和研究人员远离他们已经习惯使用的硬件和软件。
为了解决相关问题,Graphcore创建了一个名为Poplar的软件框架,该框架允许将现有的AI程序移植到其硬件中。 然而与市面上那些号称可以通过特定软件来转换现有的AI代码的做法类似,经过转换后的代码效率可能会有一定程度的损失,现有算法可能仍更适合运行在竞争对手硬件之上的软件。近年来, Google的Tensorflow AI软件框架已成为主流AI程序的通用标准,并且相关代码都是专门为NVIDIA和Google芯片编写的,这种代码转换框架也就成为必备工具。
Graphcore的联合创始人兼首席执行官Nigel Toon表示,公司成立一年后,通过英国的Microsoft Research Cambridge,两家公司开始了合作。 他说,他公司的芯片特别适合涉及非常大的AI模型或时态数据的任务。 据称,由于Graphcore的硬件,一位金融客户在用于分析市场数据的算法中看到了26倍的性能提升。
少数其他较小的公司今天也宣布,他们正在通过Azure使用Graphcore芯片。这包括将使用芯片来分析财务数据的Citadel ,而欧洲搜索引擎Qwant 希望通过该硬件运行称为ResNext的图像识别算法。
一些著名的AI研究人员已经向Graphcore投入预算,包括DeepMind的联合创始人Demis Hassabis ,剑桥大学教授,Uber AI实验室负责人Zoubin Ghahramani和UC Berkeley专门研究AI和机器人技术的教授Peiter Abbeel 。 在去年12月接受WIRED采访时,AI专家Geoffrey Hinton则是讨论了Graphcore芯片推动基础研究的潜力。Graphcore的芯片称为智能处理单元(IPU),其内核比GPU或TPU多得多。它们还具有芯片本身的内存,从而消除了将数据移至芯片上进行处理和关闭后的瓶颈。
而在业界专家与企业客户的殷殷期盼之下,市场对该公司的估值也不断水涨船高,目前已经来到将近17亿美元的高水位。