「我听说 CPU, GPU, 没有听过 NPU? 」11 月底, 谐星, 主持人阿 Ken 在华为最新旗舰手机 Mate 10 的台湾发表会上, 说着事先安排好的台词.
这个在大直美福饭店举办的手机发表会, 充满着微妙的不协调感. 阿 Ken 以及穿著时尚的影星郭书瑶与修杰楷站台, 现场讲的却是艰涩的科技名词.
▲ 华为旗舰机 Mate 10 发表会, 左起修杰楷, 郭书瑶, 主持人阿 Ken.
例如 NPU (Neural Processor Unit) , 中文可翻为「类神经网络处理器」, 是用来专门处理深度学习功能的加速器.
或者, 通俗一点, AI 芯片. 这支「世界第一支 AI 手机」搭配的 Kirin 970 处理器, 里头新增一个 AI 内核, 因此过去用户需要手动设定的摄影场景模式, 现在可以自动化. 例如, 当你向一盘牛排对焦, 屏幕会浮现一个刀叉标志, 表示 AI 处理器辨识出来是食物, 便自动调整到食物的拍摄模式.
苹果, 华为领军 AI 进攻终端装置
这个世界第三大手机品牌, 展示的就是当前半导体业的当红话题「AI on edge」 (AI 放在终端装置) .
今年 9 月的苹果发表会也揭露, iPhone X 搭载的 A11 Bionic 芯片, 也具备一颗具 AI 功能的「类神经引擎」, 更一举炒红「AI on edge」.
依照过去只要苹果用了, 就会成为业界「标配」的惯例, 接下来的各厂牌的高阶手机, 也都将搭配一颗 AI 芯片.
科技市调机构 Counterpoint 迅速在苹果发表会结束后一个月, 发表研究报告指出, 指出 2020 年内建 AI 芯片的智能型手机市占率, 将从 2017 年的 3% 暴增至 35%. 也就是说, 每 3 支手机就有一支有 AI 芯片.
「把 AI 做到终端来, 华为与苹果是最早的两家, 」也出席华为发表会的台积电物联网业务开发处资深处长王耀东说. 而且, 这两颗芯片, 都采用台积最先进的 10 奈米制程.
过去流行的概念, 会认为机械学习所需的大量运算, 需要在云端进行, 算好再传回手机.
王耀东表示, 现在半导体制程微缩到 10 奈米, 运算能力大幅提升, 足可将原先放在云端的运算模型缩小放到手机, 但对于一般的通用处理器仍是负荷太重, 「所以要加上专用的 NPU. 它的运算结构适合简单但是大量的平行运算, 」王耀东说.
类似的事情, 约 20 年前发生过, 当时图形运算的需求暴增, 催生出独立的新芯片类别──绘图芯片.
绘图芯片大厂辉达 (Nvidia) 创办人黄仁勋在 1999 年首度提出 GPU 一词, 模拟大众熟悉的 CPU (中央处理器) , 让大家知道绘图芯片的重要性.
▲ 辉达创办人黄仁勋堪称 GPU 之父, 现在他也在最新的 AI 芯片竞逐战抢到先机, 预计明年下半年上市的最新 AI 运算平台 Pegasus, 宣称是全球首个可支持第五级自动驾驶的平台. (Source: 科技新报)
迎来当代「寒武纪大爆发」
现在因应 AI 对于计算机效能的爆炸需求, 一个全新的芯片类别已经隐隐浮现, 但要叫什么? 目前业界莫衷一是, Google 用在自家服务器上叫 TPU, 华为叫 NPU, 英特尔叫 NNP (Neural Network Processor) .
「这是一个很大的趋势, 」专长是人工智能系统的微软亚洲研究院副院长周礼栋说, 「现在可以说是 XPU 的时代. 百花齐放, 有很多 solution (解决方案) 出现. 」
不少业界人士, 用古生物演化史著名的寒武纪大爆炸, 来比喻现在这个热闹滚滚的样子.
有趣的是, 当前中国最顶尖的 AI 芯片设计公司, 就叫寒武纪科技. 该公司资金与人团队都出自中科院计算所, 被中国媒体称为「人工智能国家队」, 并在今年 8 月快速完成 1 亿美元的 A 轮募资, 股东包括阿里巴巴, 联想, 虽然估值并未揭露, 但业界一般相信, 寒武纪已成为全球 AI 芯片领域第一只独角兽 (估值超过 10 亿美元) .
因为, 华为 Mate 10 处理器的 AI 核心, 就是来自寒武纪的授权.
「第一颗选择市面上现成的比较快, 」王耀东说, 但他认为华为接下来一定会想办法用自己的 AI 设计, 「有能力发展自己AI的, 都会自己发展. 」
▲ 寒武纪科技出身中国中科院, 堪称苗红根正的中国「AI 希望」. 或许因此, 创办团队极少接受媒体采访. 《天下》约访几次, 都吃了闭门羹.
新品种的处理器
10 月底, 全球半导体产业领袖云集的台积电 30 周年论坛, AI 芯片也成为热门议题. 当时, 瑞士银行分析师吕家璈从听众席提问: 「未来 AI 芯片的前景如何? 会像 GPU, DSP 一样成为主流 IC 类别吗? 」
当时台积电董事长张忠谋指定, 由最适合该问题的黄仁勋回答.
黄仁勋认为, 会有 3 种不同类型的AI芯片. 第一种是用来训练深度学习模型的, 运算功能强大, 通常放在云端服务器里.
第二种, 就是用在华为, 苹果手机上的类神经处理器. 黄仁勋认为, 「是一种新品种的处理器, 未来所有的 autonomous machine (自动机器, 包含无人车, 无人机, 机械人) 上头都会有一颗.
第三种, 用在物联网的端点, 靠近传感器, 数量以上兆颗计算.
「未来每颗传感器上都会有 AI 跟机械学习的功能, 」模拟 IC 大厂 ADI 执行长罗奇 (Vincent Roche) 补充, 「因为大量的运算必须要靠近数据的来源地. 」
这么多的新增半导体需求, 也正是台积电今年股价一路冲破 200 元, 市值飙破台币 6 兆元的关键.
也难怪, 最近有外资券商调降台积目标价. 张忠谋在参加工商协进会早餐会后, 可以气定神闲地对媒体说, 「目前大家都在讲 AI, AI 需要高速度计算, 发展根本看不到有什么限制....... (高效运算) 没有需求减缓的隐忧. 」
中国新创来势汹汹 台湾反而缺席?
目前市场上最瞩目, 辉达, 英特尔以及以寒武纪为首的多家中国新创公司, 都投入竞逐的, 是用于无人机, 无人车, 智能型手机, 以及云端服务器的高性能 AI 芯片.
台湾厂家目前仍在这块肥沃的处女地缺席. 连联发科都还在观望.
一位资深业者透露, 这类高阶芯片, 需要的研发团队, 使用的制程都所费不赀. 出去还要跟英特尔, 辉达厮杀. 曾有出身知名大厂的团队尝试开发, 但还是在今年打了退堂鼓, 因为觉得风险太大. 而且连创投都不支持.
反观中国新创团队, 虽然技术, 经验比不上台湾, 但是「中国现在钱那么多, 随便募都募得到, 」卢超群感叹.
▲ 半导体老将, 钰创科技董事长卢超群表示, 面对大陆政府对 AI 新科技的大力投资, 台湾 IC 设计业仍需要政府各方面的支持.
更何况, 大陆政府还在 7 月公布「新一代人工智能发展规划」, 喊出要在 2030 年, 达到 AI 技术和应用与世界先进水平同步的目标. 可以预期, 又有新一波热钱, 涌向 AI 产业.
「大陆投入的经费, 人力物力差太多了. 台湾得追一下, 」王耀东也忍不住说.