Graphcore IPU进入中国 能否搅动AI芯片市场？

6月23日消息，不是老套的CPU、GPU，AI应该需要一块专属芯片。这个想法让全球更多创企看到挑战巨头的机会。

今年2月EE Times评选出“十大AI芯片创企”，其中来自英国的Graphcore凭借其为AI计算而生研发的IPU获选。

英国半导体之父、Arm的联合创始人Hermann更是对Graphcore给予高度评价，他曾表示:“在计算机历史上只发生过三次革命，一次是70年代的CPU，第二次是90年代的GPU，而Graphcore就是第三次革命。”

资料显示，Graphcore是一家英国AI芯片硬件设计初创公司，成立于2016年，总部位于英国布里斯托，Graphcore的主要业务是设计用于AI应用程序的处理器，为云服务等应用提供产品支持。

Graphcore的核心技术和产品是智能处理器（IPU）硬件和相应的 “Poplar” 软件，该软件专门针对AI应用程序所需要的密集型计算而设计，以及IPU系统解决方案。目前其IPU GC2处理器已经量产。

截至目前，Graphcore已经获得超过4.5亿美元的融资，战略投资者不乏宝马、博世、戴尔、微软、三星等各行业巨头。Graphcore最近的一轮融资在今年2月完成，公司估值已达19.5亿美元。

去年，这家AI芯片创企Graphcore将业务拓展至中国，我们也得以近距离了解这家企业的产品和中国市场愿景。

IPU为AI而生 16纳米GC2处理器已量产

今年5月27日，在英国Intelligent Health峰会上，微软机器学习科学家分享了使用IPU训练CXR模型的卓越性能：IPU在运行微软COVID-19影像分析算法模型时能够在30分钟内完成训练，而在NVIDIA GPU上这项工作需花费5个小时。

Graphcore高级副总裁兼中国区总经理卢涛

Graphcore IPU一战成名。

Graphcore高级副总裁兼中国区总经理卢涛介绍，之所以IPU能有如此优异的表现，是因为 “Graphcore的IPU是为机器智能专门设计的、完全不同的处理器架构，跟CPU、GPU等处理器架构非常不一样”。

卢涛表示，CPU是针对应用和网络进行设计的处理器，是标量处理器。GPU是针对图形和高性能计算、以向量处理为核心的处理器，而Graphcore IPU是针对计算图的处理来设计的处理器。

具体而言，“IPU应用了大规模并行MIMD的处理器核。另外进行了非常大的分布式片上SRAM，在片内IPU能做到300 MB的SRAM。相对CPU的DDR2子系统或GPU的GDDR、HBM来说，IPU能做到10到320倍的性能提升。从时延的角度看，与访问外存相比，IPU时延基本为1%，可以忽略不计。” 卢涛透露。

以Graphcore已经量产的IPU GC2处理器为例，卢涛介绍道：“这款产品采用TSMC 16纳米工艺，是拥有236亿个晶体管的芯片处理器。它在120瓦的功耗下能够达到125TFlops的混合精度，内存带宽为45TB/s、片上交换可达45TB/s、片间IPU-Links为2.5TB/s。GC2上有1216个独立处理器核心（Tile），其300MSRAM能够把完整的模型放在片内。”

据悉，Graphcore采用构建大规模数据中心集群的BSP（Bulk Synchronous Parallel）技术，该技术目前在谷歌、Facebook、百度这样的大规模数据中心都已获得应用。

卢涛强调：“IPU是目前全球第一款BSP处理器，通过硬件能支持BSP协议，并通过BSP协议把整个计算逻辑分为计算、同步、交换。对软件工程师或开发者来说，这将非常易于编程；而用户也无需纠结于这里面是1216个核心（Tile）还是7000多个线程、任务具体在哪个核上执行，因此这是一项非常用户友好型的创新。”

与IPU相辅助的是Poplar软件，该软件专门针对AI应用程序所需的密集型计算而设计。卢涛透露：“目前Poplar已提供750个高性能计算元素的50多种优化功能，支持标准机器学习框架，如TensorFlow、ONNX和PyTorch，很快也会支持百度飞桨。在部署方面，目前Poplar可以支持容器化部署，能够快速启动并运行。在标准生态方面，Poplar能够支持Docker、Kubernetes，以及Hyper-v等虚拟化技术和安全技术。在操作系统方面，目前Poplar SDK支持最主要的三个Linux发行版：ubuntu、RedHat Enterprise Linux、CentOS。”

IPU服务AI优势凸显 比GPU效率大幅提升

目前基于IPU的应用已覆盖到包括自然语言处理、图像/视频处理、时序分析、推荐/排名及概率模型在内的多个机器学习应用领域。

Graphcore中国销售总监朱江

“在自然语言处理、计算机视觉类应用和概率类算法中，IPU的表现在现有以及下一代模型上，性能均领先于GPU。”Graphcore中国销售总监朱江介绍， “在自然语言处理方面，IPU速度能够提升20%至50%；在图像分类方面，IPU能够达到6倍的吞吐量和更低时延；在MCMC算法方面，IPU具有26倍的性能提升；在ResNeXt这类比较新的计算机视觉类应用方面，IPU能做到6倍的吞吐量、22分之1的时延。”

（编辑：PHP编程网 - 黄冈站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!