对话高通工程技术SVP：AI研发最关注高能效，云端AI推理芯片已流片成功
乾明 发自 凹非寺
量子位 报道 | 公众号 QbitAI
高通，移动互联网时代最成功的公司之一。它对通信技术以及专利的掌控，已经主导整个行业20余年。
一代代旗舰芯片和移动平台，更是安卓手机厂商核心竞争力和卖点之一。
但随着AI浪潮汹涌，移动互联网向移动AI的转换已成大势。高通作为移动互联网领域的大赢家，将如何发力AI，来抓住移动AI时代？
关于高通AI动向，已经有过很多次披露，但都聚焦在业务上。其AI技术研发上，是怎样的一个格局？高通AI研发，如何驱动高通的移动AI业务？
Rajesh Pankaj，高通工程技术高级副总裁，是为数不多能够回答这些问题的人，再次来到中国。
Rajesh Pankaj是一名“老高通”，从1997年至今，已经在高通工作了22年。
现在，他也是高通企业研发部门（CR&D）的负责人。而这个部门，正是高通AI研发的核心。
带着上述的这些问题，我们与他进行了深入交流，试图寻找高通将要如何继续主导移动AI时代的答案。
更低功耗，更高能效，高通AI研发的重心所向
在与Rajesh Pankaj的交流中，他提到最多的，就是如何在低功耗环境下让AI发挥出更高的能效。
他说，这是高通AI研发最关注的领域。
其实不仅仅是高通，在当下这已经成为了业内备受关注的AI研发方向之一。
近年来，各种关于模型压缩的算法大量出现。谷歌、Facebook、百度也纷纷在自家的AI框架中加入端侧推理/部署能力。
Rajesh Pankaj从5G和AI的角度解释了背后的趋势。
一方面是AI技术的进一步成熟，相关的研究不再只是关注用AI解决问题，业界和学界开始考虑让AI进入到终端中，实现更多能力。
另一方面是5G的兴起，超低时延的数据传输变成了现实，端云协同变得触手可及。
这也就意味着和之前只依靠终端或者云端相比，边缘设备上能够实现更多的AI能力。
虽然相应的条件已经出现，但都处于不断完善中。不同的公司，都在通过不同的方式角逐未来。
Rajesh Pankaj说，得益于移动设备领域的技术积累，“低功耗环境下，实现高能效的AI，是高通最强的领域。
高通也给出了相应的数据进行了佐证：
利用张量分解、通道简化等手段压缩AI模型架构，压缩量达到3倍，同时准确度仅损失不到1%。
此外还有高精度训练、低精度推理的方法来实现能效的提升：
高通用量化8位推理模型，实现内存和计算4倍能效提升，可以和FP32实现近乎相同的准确率。
除此之外，高通还在优化编译器、内存计算AI等方面开展了相应的研究，为AI计算节能加速。
在专访过程中，Rajesh Pankaj也进一步解释说，虽然他很屡次提起低功耗运行AI，但这并不是高通AI研发的全部。
他说，从更大的角度来看，高通关注的是与端侧设备有关的所有AI，只要能够对业务带来帮助，都会投入资源去研发。
这些技术，并不都是处于研发阶段，高通也已经将这些技术应用到了移动AI芯片中。
2015年的骁龙820开始，高通的旗舰芯片就已经在全面集成高通自研人工智能引擎AI Engine。
到骁龙855，已经是第四代人工智能引擎AI Engine，突出的点在于异构计算。
核心能力，是让CPU、GPU、Hexagon不同功能的核心发挥各自所长，而又相互协作，共同实现高效的AI处理。
高通出圈：云端推理芯片已流片成功
虽然在相应的技术研发上，高通聚焦于端侧AI。但AI带来的不仅仅是冲击，也有机会。在场景上，高通也正在出圈。
最能体现这一动向的，不是高通面向IoT和汽车领域大秀肌肉。而是其4月份发布的一个数据中心AI推理芯片：Cloud AI 100。
同样，这一芯片主打的也是高能效。
在发布的时候，高通表示，这一芯片能降低终端与数据中心的延迟，提高AI云端效率。与其他商用方案相比，Cloud AI 100每瓦特性能提升了10倍。
微软和Facebook也为高通的这一芯片站台，并在产品发布时，分享了部署AI推理芯片的计划：
微软用它发现工业生产中的安全问题，Facebook则用它处理智能助理、视频AR特效以及加速VR硬件。
但在当时，高通只是宣布了芯片，并没有给出具体的产品。
Rajesh Pankaj也介绍了这一芯片的研发进展：芯片现在已经流片成功，并交于合作伙伴进行部署测试，明年会正式商用。
虽然这款芯片应用于云端，但Rajesh Pankaj说，高通暂时没有提供云服务的打算，硬件会对外出售，并配备相应的软件支持，来帮助合作伙伴搭建相应开发生态。
而且，这一芯片的出现，也在帮助高通拓展新的场景。
Rajesh Pankaj透露，不仅仅只有移动设备以及云服务商对这个芯片感兴趣，还有不少汽车厂商以及其他架构厂商也展现出了兴趣。
他说，在这些合作过程中，高通也会将AI落地到更多的领域中去。
与此同时，高通发力AI也不仅仅只是单打独斗。科技巨头们擅长使用的投资收购手段，它也没有落下。
2018年，高通风投成立了1亿美元的AI投资基金，主要用于投资5G赋能的AI领域，为自动驾驶汽车、机器人和机器学习平台开发新技术的企业。
高通的AI发展之道
聚焦端侧，巩固自身在高能效AI方面的领先地位。然后以此为切入点，不断拓宽AI的落地场景。
这是高通当下发展AI的重要策略之一。在Rajesh Pankaj看来，这背后也凸显出了高通在技术研发与商业落地上的一个“传统”：
高通所研发的AI，只是AI领域的一部分。其研发的目标，就是在这一部分中占据领导地位。只要技术在这一领域占据了主导地位，产品自然就更有优势了。
这在一定程度上，也反映了高通的“人才观”。
谈到高通如何吸引AI人才时，Rajesh Pankaj也表达了类似的观点，只需要把要做的做好，自然就会有人才加入。
此外，Rajesh Pankaj还谈到了高通吸引人才的另外一个特征：研究成果很快就会影响产品。
他说，这对于很多研究者来说，都是一个难以抵挡的诱惑。
- 滴滴副总裁叶杰平离职，他是出行巨头的AI掌门人，战胜Uber中国的关键科学家2020-09-07
- 董明珠的格力空调卖不动了：上半年营收同比腰斩，24年来首次被美的反超2020-09-01
- 手机配件市场上的“隐形巨头”：80后长沙夫妻创办，IPO首日市值逼近600亿2020-08-31
- 寒武纪半年报：每天亏百万，销售力度提升营收反降11%，上市高峰市值跌去40%2020-08-30
相关阅读
