Nandan Nayampally表示, 现在不只是行动装置的处理器有这样的能力, 就算是非常小的微控制器 (MCU) , 都已具备了基本的AI执行处理能力, 如ARM Cortex-M0, Arm Cortex-M3系列等, 现在已经可以在上面跑影像或语音方面的机器学习模型.
随着越来越多主打AI功能或特色的行动处理器推出, 他观察到, 开始有越来越多结合CPU与GPU功能的AP应用处理器, 被运用在处理不同类型用途的AI运算工作上, 比如物体侦测, 语音识别, 或人脸识别等. 不只这些应用处理器采用ARM架构, 市面上许多具备AI功能的智能装置, 也都有采用ARM架构, 例如智能语音装置, 智能相机, 或是智能电视机等等, 即便是在云端上, 他说, 现在它的架构也有被使用在中国, 日本的超级计算机上来做不同应用.
Nandan Nayampally强调, 以后AI在行动装置上将会越来越普及, 「几乎在所有装置上都能够执行. 」至于能够在上面跑什么类型的AI应用, 他表示, 将取决于装置的硬件. 他进一步说明, 机器学习 (ML) 和AI都是软件, 跑在硬件上, 如果是简单的AI应用, 不需要经过太多运算, 单以CPU或GPU就足以应付; 如果需要经过高度复杂的运算处理时, 则须搭配神经网络加速器 (Neural Network Accelerator) , 来加速运算, 以做为更进阶的AI应用.
Nandan Nayampally表示, 未来公司也将持续强化CPU, GPU在机器学习或AI的处理能力, 不仅在设计架构上, 将加入了更多指令集, 功能或工具, 提供机器学习, 甚至深度学习更强大的支持, 还会透过软件来优化排程, 以发挥出更高的使用效率, 他举例说, 最近刚推出的Cortex-A76 CPU架构, 在机器学习任务的执行上, 就比前代A75能获得4倍的效能提升, 另外在Mali-G76 GPU方面, 也比G72足足高出3倍效能表现.
不只是芯片开发设计要结合AI, ARM今年也开始聚焦神经网络加速器, 它以Project Trillium全新架构推出 Machine Learning processor (MLP) 与Object Detection processor (ODP) 两款全新IP系列, 这是ARM今年初发表的全新人工智能 (AI) 芯片家族.
前者用于机器学习加速, 每个处理器的浮点运算效能高达4.6Teraflops, 而且也更省电, 功耗上, 每瓦可达到3Teraflops浮点运算效能. 后者则是用于计算机视觉运算加速, 与传统的DSP数字讯号专用芯片相比, 效能提升多达80倍, 并且能处理高达每秒60帧画面的Full HD高画质影片.
不仅如此, Nandan Nayampally也相当看好物体侦测(Object Detection)在AR, VR领域的应用发展, 甚至他说, 公司2年前买下Apical这家以嵌入式计算机视觉和影像应用为主的技术公司, 帮助它加快切入AR, VR装置市场, 除了现有已支持视觉运算 (Vision computing) 的ARM产品以外, 他说, 之后也将会有下一代Vision解决方案推出.