性能最高提升480倍：Arm推出2款新AI边缘计算芯片设计，专为物联网设备打造
鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI
今天，Arm 推出了 2 款具有 AI 功能的 NPU（神经处理单元），Arm Cortex-M55 和 Ethos-U55。
新芯片专为物联网终端设备设计，不需要云连接，旨在提高低功耗嵌入式设备的机器学习和推理能力。
Arm 称，在某些语音和视觉场景下，能将机器学习性能提升多达 480倍。
这两款芯片预计 2021 年初上市。
Cortex-M55：氦气技术+自定义指令能力
Cortex-M55 属于 Arm 的 Cortex-M 产品系列，具有性价比高、高能效的特点。
这是第一款基于 Arm 氦气技术的片上系统。所谓氦气技术，实际上是针对 Arm Cortex-M 系列处理器的 M-Profile 矢量扩展（MVE）技术，旨在为最小的嵌入式设备提供增强的机器学习和信号处理。
这是 Armv8.1-M 架构的扩展，该架构针对低功耗芯片进行了优化，增加了150多个新的标量和矢量指令。可以有效计算 8 位、16 位和 32 位定点数据。
对于 8 位定点格式，补充了浮点数据类型，包括单精度浮点数（32 位）和版精度浮点数（16 位）。
Arm 表示，与前代产品相比，采用氦气技术的 Cortex-M55 可将数字信号处理性能提高 5 倍，将机器学习性能提高 15 倍。
此外，它还允许高级内存接口提供对机器学习数据的快速访问，并内置于 Arm TrustZone 系统内。
Ethos-U55：Arm 首款 microNPU
Ethos-U55 属于 Cortex-M 处理器的配套 NPU 加速器架构，致力于解决对电池寿命和成本敏感的复杂AI计算难题，需要和 Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4 等产品搭配使用。
Ethos-U55 的设计非常精简，着眼于面积和功率效率，具有较小的内存占用量。
简而言之，这是一款既小又省电、可以在最小的电子设备上运行的神经网络专用芯片。
它包含 32 至 256 个可配置计算单元，与基本的 Cortex-M55 相比，最多可实现 32 倍的机器学习性能提升。
也就是说，与前几代 Cortex-M 芯片相比，Ethos-U55 + Cortex-M55 的组合，运行机器学习任务的速度最高能提升 480 倍。
Arm表示，与 Cortex-M7 相比，Cortex-M55 和 Ethos-U55 的组合，在推理速度上能快 50 倍，在语音活动检测、噪声消除等任务当中，能效最高能提升 25 倍。
而在软件方面，Cortex-M55 和 Ethos-U55 都可以与流行的机器学习框架（TensorFlow 和 PyTorch），以及 Arm 自家的解决方案很好地配合使用。
应用领域
机器学习现在正在被部署到各种行业的各个系统当中。
AI边缘芯片，正在成为厂商们互相斗法的新“战场”。
比如英特尔的 Myriad，谷歌的 Edge TPU，英伟达的 Jetson Nano 等等。
Arm 认为，终端 AI 市场将成为未来几年中出现爆炸性增长的领域。
新的 IP 版本，正是为了涵盖这一领域。
比如，新芯片将能够把AI应用程序带到农业领域。
成百上千个配备了机器学习功能的低成本传感器可以仔细校准每株植物需要的水量、肥料和杀虫剂。
比如无人驾驶汽车和智能医疗设备的落地，都需要 AI 边缘芯片的加持。
Arm表示，Cortex M55 + Ethos U-55 的组合，可以执行更高级别的机器学习任务，包括手势检测、指纹、面部、语音识别等。
Arm 汽车及物联网业务 VP 兼总经理迪普提·瓦查妮（Dipti Vachani）补充说：
让 AI 在功率相对较低的设备上运行，而不是必须与基于云的数据中心保持通信，对数据安全和隐私而言至关重要。
不过，Arm 的新芯片设计都属于推理芯片，对对象分类和实时人脸识别这样的计算密集型任务并不适用。
参考链接
https://www.anandtech.com/show/15494/arm-announces-cortexm55-core-and-ethosu55-micronpu
https://fortune.com/2020/02/10/arm-new-a-i-chips/
— 完 —
- OpenAI重夺竞技场第一，但这波靠的是4o2024-11-21
- Qwen2.5更新百万超长上下文，推理速度4.3倍加速，网友：RAG要过时了2024-11-19
- 0元起步打造你的AI搜索！实测秘塔知识库新功能，竟能指导我升职加薪了2024-11-11
- o1满血版泄露！奥数题图片推理手拿把掐，奥特曼上线剧透o22024-11-03
相关阅读
