AI性能最高提升480倍！ARM着急了？

网际飞音 2020-02-13

展开全文

昨天，ARM发布了两款全新的IP，一款是已经非常成功的ARM Cortex-M家族的新成员Cortex-M55，另一款是去年底新发布的Ethos系列的新产品，也是首款针对Cortex-M平台的微神经网络处理器(microNPU)——Ethos-U55。如果将这两个最新的IP结合，机器学习（ML）性能最高可以提高480倍。

两款新产品AI性能的大幅度提升，是ARM在AIoT市场竞争的强大武器。但是，也反映出了ARM在这一市场的焦虑。

【图片来源：techviral 】

强攻AIoT市场

从两款新产品说起，新增的Cortex-M55是ARM AI性能最强大的Cortex-M处理器。有多强大？与前几代的Cortex-M处理器相比，Cortex-M55的ML性能最高可提升15倍，DSP性能也可提升5倍，且具备更佳的能耗比。同时，Cortex-M55也是首款基于ARMv8.1-M架构、内建ARM Helium向量处理技术的处理器，大幅提升DSP与ML的性能还更省电。

另外，开发者还可以使用Cortex-M处理器的全新功能，也就是去年十月发布的ARM Custom Instructions (ARM自定义指令集)，延伸处理器的能力，对特定工作负载进行优化。

也就是说，全新的Cortex-M55不仅AI性能更强，能耗比更佳，还有了更强的灵活性。

另外一款新品Ethos-U55的AI性能更加强大，是Cortex-M55的32倍，还有32-256个可配置的MAC。ARM推出这款专用的微神经处理器的目的是借助其高度的可配置性，加速空间受限的嵌入式与物联网设备的ML推理能力。

这还不够，如果将Cortex-M55与Ethos-U55搭配，结合后的产品ML性能最高可提升480倍。

当然，不要被480倍的巨大提升吓到，因为这个性能的提升是在一个比较低的ML性能的基础上实现的提升。用下面的图来直观解释AI性能提升后适用的场景。

Cortex-M55的AI性能可以应用在像异常检测和对象检测的应用中，Cortex-M55与Ethos-U55搭配则可以应用在对AI性能要求更高的手势检测、生物识别、语音识别的应用中，但两者搭配的AI性能又低于Cortex-A CPU、Mali GPU、Ethos-N NPU才能满足的对象分类、实时识应用的需求。

这样，我们就能非常清晰的了解Cortex-M55以及Ethos-U55的意义。

Cortex-M是业界非常成功的微控制器处理器，基于Cortex-M的芯片全球已经出货超过500亿片，广泛应用于各种各样的嵌入式设备当中。但是Cortex-M只能够满足振动检测、传感融合、关键字检测这些简单的AI功能，随着万物皆AI时代的到来，需要Cortex-M、Ethos-U55以及两者的组合的性能去满足更多AIoT应用的需求。

也就是说，已有的Cortex-M、Cortex-M55、Ethos-U55以及Cortex-M所有产品与Ethos-U55的组合更全面的AI性能，提升了ARM在终端AI上的吸引力，再加上Cortex-M的ARM Custom Instructions的新功能，能够更好地满足市场规模庞大但碎片化的AIoT市场。

ARM在AIoT市场的内外焦虑

从Cortex-M 到Ethos-N，ARM本应该为其拥有的AI产品感到自信，但市场的竞争似乎并不容许ARM为此满足。实际上，ARM在2018年2月公布了Project Trillium 的机器学习计划，并且预计在2019年第一季度发布首款ML处理器。但ARM直到2019年5月份才发布首款ML处理器，10月份才公布ML系列产品的名称Ethos。

ARM ML事业群商业与营销副总裁Dennis Laudick去年接受雷锋网专访时对于产品发布有所延迟这样解释，发布推迟有很多原因，产品开发是主要的问题。ML处理器开发的过程中面临很多挑战，其中一个很大的挑战就是数据移动处理不好就会消耗大量的电，另一个大的挑战就是如何权衡效率和灵活性。

在ARM发布首款ML处理器时，苹果、三星、华为集成在其SoC中的NPU已经更新了几代，高通和联发科的神经网络处理器也日趋成熟。也因此，业界不少人都认为ARM错过了进入手机NPU市场的好时机。这自然也会让ARM的AI产品更加看重具有广阔前景的AIoT市场。

全球第二大市场研究机构MarketsandMarkets去年发布的预测报告显示，2019年全球AIoT市场规模为51亿美元，到2024年，这一数字将增长至162亿美元，复合年增长率为26%。

虽然ARM凭借Cortex-M系列处理器在嵌入式设备市场非常成功，但是到了AIoT时代，ARM迎来了一个强劲的对手——RISC-V。RISC-V指令集与ARM指令集同属精简指令集，都具有高性能低功耗的特点，不过RISC-V诞生之处就选择了开源，而ARM采用的是授权模式。

RISC-V的开源，可以让开发者实现更加灵活的设计，更容易满足AIoT市场多样化的需求，这也是让ARM感到紧张的关键因素。去年10月，ARM也推出了ARM自定义指令集，以应对RISC-V带来的竞争。

并且，RISC-V正在日益壮大，面向AIoT市场的产品也正在陆续推出。

GreenWaves Technologies率先推出了基于RISC-V的IoT超低功耗处理器，能效上可以实现20倍优于市场现有100mW以下同类产品。2019年12月推出的新一代产品性能提高10倍，功耗降低5倍。

RISC-V重要的IP提供商晶心科技总经理林志明去年接受雷锋网采访时也表示，再花半年推动量产、上市以及软硬件的整合，2019年下半年和2020年年初开始RISC-V的产品就会比较多的投入市场。

今年年初，SiFive和CEVA宣布合作，以SiFive的RISC-V CPU，CEVA的DSP内核，AI处理器和软件为中心，实现针对批量最终市场的超低功耗领域特定Edge AI处理器的设计和创建。

因此，由多种因素导致的ARM ML产品发布的延迟，以及RISC-V阵营的日益强大，ARM在AI以及AIoT时代难免会有些焦虑，480倍的AI性能提升是缓解这种焦虑的一个关键。

生态优势能否延续？

当被问及去年5月才推出首款出Ethos还有竞争力吗？Dennis称，ARM的成功一直以来都得益于生态系统，对于NPU来说挑战并不是能够做出自己的NPU，而是NPU在市场上是不是真的好用。我们已经听到合作伙伴反馈说，希望在硬件上能够标准化，他们不想支持15种不同的硬件，所以，他们期待有一个标准化的软件平台能够支持。

从构建ARM的AI竞争力而言，即便产品推出有些推迟，但ARM多年来构建的强大生态依旧有助于其NPU的成功。并且，ARM也在致力于打造一致的体验，Cortex-M 软件开发工具完整支持最新发布的Cortex-M55与 Ethos-U55。另外，ARM还与其他开发工具厂商兼容，并且在算法、软件与 OS 方面也获得了伙伴的支持。