AI迅速崛起，运算分析已开始从云端迈向终端装置，边缘运算势在必行，其发展备受半导体产业关注，且各领域业者也竞相投入开发关键组件/技术，而Computex 2018更成为各技术阵营的火力展示场合。

人工智能(AI)发展愈加快速，并开始大举进军终端装置，运算分析已开始从云端转向终端节点，边缘运算发展可说是目前半导体产业热门议题，而2018台北国际计算机展(Computex 2018)也成为各领域业者(如IP、芯片、储存) 火力展示的绝佳场合，纷纷于展会期间发布新的解决方案或市场布局规画。 抢攻边缘运算市场 Arm动作频频 Arm IP产品事业群总裁Rene Haas(图1)表示，随着物联网的蓬勃发展，Arm预测至2035年全球将会有超过1兆台的联网装置，运用于医疗、汽车、灯具及道路等范畴， 而联网装置数量的大幅成长也将带领终端及云端运算的持续发展。 智能运算将持续推动物联网崭新时代，带领AI变革，促使物联网智能运算无所不在。

因应此一趋势，且为整合生态系统的AI/机器学习(ML)应用、演算与框架，并结合软件优化与硬件IP产品，让各式装置及平台都能支持最常使用的机器学习框架，Arm近期宣布推出三款全新IP产品，分别为Cortex-A76 CPU、 Mali-G76 GPU，以及Mali-V76 VPU，以提升游戏与AR/VR体验，AI和机器学习能力。 透过这三款新产品，Arm将持续强化该公司于行动领域的竞争优势，也再度增强了智能手机、平板计算机、PC等行动终端装置的运算效能。 Arm副总裁暨客户事业部总经理Nandan Nayampally(图2)表示，未来5G将推动整个行动产业创新，即将到来的5G联网应用，包含VR、AI或是手机游戏等将会带动更多运算量成长，未来将会有更多不同运算需求产生。

Nayampally进一步指出，游戏也是推动行动装置运算持续攀升的关键因素之一。 游戏产业已成目前全球营收规模最大的市场之一，预计在2018年可达到1,379亿美元的产值，这也驱动了消费者对于运算效能的需求。 据悉，Cortex-A76是基于Arm旗下的DynamIQ技术打造，和去年所发布的Cortex-A75相比，提升了35%的效能与40%的效率;可为终端装置上的AI/ML提供4倍的运算效能， 于PC和智能手机上实现快速且安全的体验。 Mali-G76则比前一代的Mali-G72 GPU提升30%运算效能，以及增加了30%的效能密度，不仅可满足消费者随时游玩高阶游戏的需求，也为开发人员提供更多的效能空间，使他们能编写更多新的应用程序， 为行动应用带来更多高阶游戏，或是将AR/VR整合至生活当中。 最后，随着UHD 8K需求逐渐攀升，为确保IP能支持智能手机和其他装置编码译码运算，Arm便推出Mali-V76，可支持高达60fps的8K分辨率或四部60fps的4K串流影片，消费者能同时串流四部4K分辨率的电影、 在视频会议中录制影片，或者以4K观看四场比赛;或在较低分辨率的状况下，仍能呈现高分辨率画质(Full HD)，并能支持多达16部串流影片组成4×4的电视墙。 Project Trillium亮相 加速建构ML生态系 与此同时，为提升终端装置机器学习效能，Arm也于2018年初发表Project Trillium平台，包含全新机器学习处理器(ML Processor)、对象侦测处理器(Objects Processor)， 以及Arm神经网络软件(Arm NN)。 相较于独立CPU、GPU与加速器，Project Trillium平台效能更远远超越传统DSP的可编程逻辑。 Arm副总裁、院士暨机器学习事业群总经理Jem Davies(图3)指出，边缘运算发展潜力十分庞大，目前市面上的确有许多独立的解决方案，像是ASIC加速器、CPU/GPU等。 终端业者当然可以选择自己想要的方案，不过缺点在于须花费时间自行进行硬件与软件(TensorFlow、Caffe)的整合。

Davies说明，Project Trillium的优势在于，是以平台的架构呈现，硬件方面不仅有ML Processor和Objects Processor可供选择，同时也能透过Arm NN软件， 协助用户简化TensorFlow、Caffe与Android NN等神经网络框架和Arm Cortex CPU、Arm Mali GPU与机器学习处理器之间的链接整合。 Davies进一步指出，软件整合是发展机器学习其中一个关键要素，许多加速器业者或许有办法提供相关硬件处理器(CPU、GPU)，但却少有资源可以提供一个完善的平台架构，协助客户进行软硬件整合或是提升ML模型运算， 而Project Trillium包含全新的Arm IP处理器及神经网络软件，从硬件和软件面都能满足现今市场需求，而这种方式也有助于Arm建构完善的边缘运算生态系。 另外，Davies也观察到，MCU对机器学习的需求也十分强劲。 他透露，在Project Trillium上线，Arm NN软件开发工具包开放用户下载的第一天，就有超过5,000名用户开始使用CMSIS NN，尝试以Cortex-M执行机器学习算法。 Davies说，这个结果其实出乎Arm的预料，也显示MCU用户群对机器学习的需求跟兴趣，是不容忽视的。 这也促使Arm决定在未来推出的新版Cortex-M核心中，进一步强化这类核心执行ML算法的效率。 CMSIS NN是Arm神经网络软件开发工具包Arm NN SDK下的一个运算函式库(Compute Library)，可以提升Cortex-M执行机器学习算法的效率。 即便是现有的Cortex-M核心，在CMSIS NN的帮助下，也可以执行一些很简单的机器学习推论，例如判读传感器输出数据所代表的意义。 当然，由于MCU的运算效能跟内存空间都不是很充裕，因此不可能执行非常复杂机器学习推论，但如果是对单一传感器节点输出的数据做简单判读，还是有机会实现的。 Davies指出，MCU如果无法支持某些基本的ML算法，AI应用无所不在的未来是难以实现的。 目前透过云端数据中心提供的人工智能应用服务，其实有很明显的应用局限，只有把AI不断往边缘推进，才能让AI应用更加普及。 而为了让MCU能更有效率地执行ML算法，在Arm未来的产品发展路线图里面，Cortex-M执行ML的效率将会进一步提升。