「我聽說 CPU, GPU, 沒有聽過 NPU? 」11 月底, 諧星, 主持人阿 Ken 在華為最新旗艦手機 Mate 10 的台灣發表會上, 說著事先安排好的台詞.
這個在大直美福飯店舉辦的手機發表會, 充滿著微妙的不協調感. 阿 Ken 以及穿著時尚的影星郭書瑤與修杰楷月台, 現場講的卻是艱澀的科技名詞.
▲ 華為旗艦機 Mate 10 發表會, 左起修杰楷, 郭書瑤, 主持人阿 Ken.
例如 NPU (Neural Processor Unit) , 中文可翻為「類神經網路處理器」, 是用來專門處理深度學習功能的加速器.
或者, 通俗一點, AI 晶片. 這支「世界第一支 AI 手機」搭配的 Kirin 970 處理器, 裡頭新增一個 AI 內核, 因此過去用戶需要手動設定的攝影場景模式, 現在可以自動化. 例如, 當你向一盤牛排對焦, 屏幕會浮現一個刀叉標誌, 表示 AI 處理器辨識出來是食物, 便自動調整到食物的拍攝模式.
蘋果, 華為領軍 AI 進攻終端裝置
這個世界第三大手機品牌, 展示的就是當前半導體業的當紅話題「AI on edge」 (AI 放在終端裝置) .
今年 9 月的蘋果發表會也揭露, iPhone X 搭載的 A11 Bionic 晶片, 也具備一顆具 AI 功能的「類神經引擎」, 更一舉炒紅「AI on edge」.
依照過去只要蘋果用了, 就會成為業界「標配」的慣例, 接下來的各廠牌的高階手機, 也都將搭配一顆 AI 晶片.
科技市調機構 Counterpoint 迅速在蘋果發表會結束後一個月, 發表研究報告指出, 指出 2020 年內建 AI 晶片的智能型手機市佔率, 將從 2017 年的 3% 暴增至 35%. 也就是說, 每 3 支手機就有一支有 AI 晶片.
「把 AI 做到終端來, 華為與蘋果是最早的兩家, 」也出席華為發表會的台積電物聯網業務開發處資深處長王耀東說. 而且, 這兩顆晶片, 都採用台積最先進的 10 奈米製程.
過去流行的概念, 會認為機械學習所需的大量運算, 需要在雲端進行, 算好再傳回手機.
王耀東表示, 現在半導體製程微縮到 10 奈米, 運算能力大幅提升, 足可將原先放在雲端的運算模型縮小放到手機, 但對於一般的通用處理器仍是負荷太重, 「所以要加上專用的 NPU. 它的運算結構適合簡單但是大量的平行運算, 」王耀東說.
類似的事情, 約 20 年前發生過, 當時圖形運算的需求暴增, 催生出獨立的新晶片類別──繪圖晶片.
繪圖晶片大廠輝達 (Nvidia) 創辦人黃仁勳在 1999 年首度提出 GPU 一詞, 類比大眾熟悉的 CPU (中央處理器) , 讓大家知道繪圖晶片的重要性.
▲ 輝達創辦人黃仁勳堪稱 GPU 之父, 現在他也在最新的 AI 晶片競逐戰搶到先機, 預計明年下半年上市的最新 AI 運算平台 Pegasus, 宣稱是全球首個可支援第五級自動駕駛的平台. (Source: 科技新報)
迎來當代「寒武紀大爆發」
現在因應 AI 對於計算機效能的爆炸需求, 一個全新的晶片類別已經隱隱浮現, 但要叫什麼? 目前業界莫衷一是, Google 用在自家伺服器上叫 TPU, 華為叫 NPU, 英特爾叫 NNP (Neural Network Processor) .
「這是一個很大的趨勢, 」專長是人工智慧系統的微軟亞洲研究院副院長周禮棟說, 「現在可以說是 XPU 的時代. 百花齊放, 有很多 solution (解決方案) 出現. 」
不少業界人士, 用古生物演化史著名的寒武紀大爆炸, 來比喻現在這個熱鬧滾滾的樣子.
有趣的是, 當前中國最頂尖的 AI 晶片設計公司, 就叫寒武紀科技. 該公司資金與人團隊都出自中科院計算所, 被中國媒體稱為「人工智慧國家隊」, 並在今年 8 月快速完成 1 億美元的 A 輪募資, 股東包括阿里巴巴, 聯想, 雖然估值並未揭露, 但業界一般相信, 寒武紀已成為全球 AI 晶片領域第一隻獨角獸 (估值超過 10 億美元) .
因為, 華為 Mate 10 處理器的 AI 核心, 就是來自寒武紀的授權.
「第一顆選擇市面上現成的比較快, 」王耀東說, 但他認為華為接下來一定會想辦法用自己的 AI 設計, 「有能力發展自己AI的, 都會自己發展. 」
▲ 寒武紀科技出身中國中科院, 堪稱苗紅根正的中國「AI 希望」. 或許因此, 創辦團隊極少接受媒體採訪. 《天下》約訪幾次, 都吃了閉門羹.
新品種的處理器
10 月底, 全球半導體產業領袖雲集的台積電 30 周年論壇, AI 晶片也成為熱門議題. 當時, 瑞士銀行分析師呂家璈從聽眾席提問: 「未來 AI 晶片的前景如何? 會像 GPU, DSP 一樣成為主流 IC 類別嗎? 」
當時台積電董事長張忠謀指定, 由最適合該問題的黃仁勳回答.
黃仁勳認為, 會有 3 種不同類型的AI晶片. 第一種是用來訓練深度學習模型的, 運算功能強大, 通常放在雲端伺服器裡.
第二種, 就是用在華為, 蘋果手機上的類神經處理器. 黃仁勳認為, 「是一種新品種的處理器, 未來所有的 autonomous machine (自動機器, 包含無人車, 無人機, 機械人) 上頭都會有一顆.
第三種, 用在物聯網的端點, 靠近感測器, 數量以上兆顆計算.
「未來每顆感測器上都會有 AI 跟機械學習的功能, 」類比 IC 大廠 ADI 執行長羅奇 (Vincent Roche) 補充, 「因為大量的運算必須要靠近數據的來源地. 」
這麼多的新增半導體需求, 也正是台積電今年股價一路衝破 200 元, 市值飆破台幣 6 兆元的關鍵.
也難怪, 最近有外資券商調降台積目標價. 張忠謀在參加工商協進會早餐會後, 可以氣定神閑地對媒體說, 「目前大家都在講 AI, AI 需要高速度計算, 發展根本看不到有什麼限制....... (高效運算) 沒有需求減緩的隱憂. 」
中國新創來勢洶洶 台灣反而缺席?
目前市場上最矚目, 輝達, 英特爾以及以寒武紀為首的多家中國新創公司, 都投入競逐的, 是用於無人機, 無人車, 智能型手機, 以及雲端伺服器的高性能 AI 晶片.
台灣廠家目前仍在這塊肥沃的處女地缺席. 連聯發科都還在觀望.
一位資深業者透露, 這類高階晶片, 需要的研發團隊, 使用的製程都所費不貲. 出去還要跟英特爾, 輝達廝殺. 曾有出身知名大廠的團隊嘗試開發, 但還是在今年打了退堂鼓, 因為覺得風險太大. 而且連創投都不支援.
反觀中國新創團隊, 雖然技術, 經驗比不上台灣, 但是「中國現在錢那麼多, 隨便募都募得到, 」盧超群感歎.
▲ 半導體老將, 鈺創科技董事長盧超群表示, 面對大陸政府對 AI 新科技的大力投資, 台灣 IC 設計業仍需要政府各方面的支援.
更何況, 大陸政府還在 7 月公布「新一代人工智慧發展規劃」, 喊出要在 2030 年, 達到 AI 技術和應用與世界先進水平同步的目標. 可以預期, 又有新一波熱錢, 湧向 AI 產業.
「大陸投入的經費, 人力物力差太多了. 台灣得追一下, 」王耀東也忍不住說.