從演算法到算力, 資本圈熱點轉移
2017年, 在資本圈和媒體大V們討論得熱火朝天, 在各個AI技術論壇頻頻召開的時候, 消費者一頭霧水.
筆者百度了一下 'AI' , 發現了一部大導演斯皮爾伯格拍的電影, 電影裡的AI就是一個除了內部構造, 跟人沒有任何區別的小男孩.
於是老百姓們恍然大悟, 哦!原來AI就是機器人兒啊?
還有一部電影就是《黑客帝國》中的母體Matrix. 這部電影裡的AI是一個巨大的虛擬世界的大腦, 整個物理世界都變成了數據, 人類自己也變成了一串串代碼.
這兩部電影其實揭示了AI的兩個表現形態: 雲端和終端AI.
2016年, 資本圈關注的大多還是專註於雲端演算法的公司, 比如商湯, 曠視, 雲從, 依圖四家演算法公司, 李開複稱他們為人臉識別的 '四個獨角獸' .
2016年, Intel收購了Nervana, Altea, 穀歌在I/O大會發布了 'TPU' , 高通開始研發神經網路晶片, 而Nvidia股價因為AI概念而飆升.
2017年, 資本圈開始關注地平線, 深鑒科技, 寒武紀, 雲天勵飛四家AI晶片公司.
資本的嗅覺是很靈敏的, AI作為一種技術其實已經有了幾十年的曆史. 組成AI的三大要素包括演算法, 算力, 數據. 演算法和數據的積累和演化已經持續了很多年, 而終端算力的普及則剛剛開始. 從運算髮展的路徑來看, 一開始都是靠演算法解決問題, 因為那時候計算力有限. 所以資本重點關注演算法公司. 現在計算力上升, 演算法的差異被彌補掉了, 於是資本開始關注提供算力的公司.
雖然AlphaGo算力驚人, 但這是在使用了上千個CPU和數百個GPU的基礎下實現的, 下一盤棋的電費就高達3000美元, 相當耗能.
手機是目前最普及的個人移動終端, 如何讓低功耗的智能手機能夠和AlphaGo一樣 '聰明' ?
為何華為麒麟能率先推出手機AI晶片?
手機行業最先行動的是兩個公司——蘋果和華為. iPhone X的A11中打在了神經網路模組神經引擎(Neural Engine), 而華為在經過多年的技術積累和方案預研後, 創新性地在麒麟970上率先搭載了NPU(Neural-network Porcessing Unit).
華為麒麟晶片市場總監周晨
'我們有幸走到了這件事(AI)的前面, 我們的麒麟970跟iPhone X的A11是真正在終端側率先的推出量產產品的公司. ' 華為麟晶片市場總監周晨對《電子工程專輯》記者表示. 相比蘋果的AI晶片, 華為麒麟是用硬體的方式來加速, '我們對於開放的事情還是有差異的, 蘋果把這個能力主要用在FaceID, 我們是通過HiAI全面開放給開發者, 開發者可以用到手機業界最強的AI推理能力. ' 周晨說.
作為手機行業的標杆, 這兩家公司之所以能夠率先推出AI手機晶片, 首先當然是因為各自掌握著晶片設計能力. 其次是因為他們的晶片部門或公司只需要服務於一家客戶.
'實際上AI的項目我們2年前就啟動了. 因為我們是in house的晶片公司, 只需要服務於華為這個品牌. 我們可以很清楚的知道終端的需求是什麼, 從而針對性的做出產品和規劃設計. ' 周晨認為, 對於公開市場的晶片公司, 考慮的邏輯是不一樣的. 因為晶片裡面加任何功能都是成本, 所以純晶片公司要考慮到自己的客戶對AI的需求會是怎樣, 因此會偏保守. 未來在新技術的採用上, 類似於蘋果, 華為這樣的in house會更加激進, 這可能是華為麒麟在業界率先推出AI手機晶片的重要原因.
從雲到端, AI晶片迭代如何滿足演算法變化?
當然, 如果你認為蘋果和華為在手機晶片中搭載 'AI' 單元模組僅僅是為了尋找新的賣點, 作為營銷噱頭多賣手機, 那你就圖樣了. 從雲端到終端確實能帶來真正的好處, 比如功耗和成本的降低, 效率的提升等.
2018年的CES展印證了AI向終端轉移的趨勢, 以前很多基於概念的應用開始真正以產品和服務的形式落地了. 從CES展出的各種AI產品來看, 大致分為三種: 第一類是應用在汽車上的自動駕駛方案, 目前主要是Nvidia在該領域布局. 第二類是圍繞語音類的助手服務, 包括智能音箱等. 第三類則是映像識別類的產品, 有大量的初創公司都在進入, 開發類似於安防監控, 直播, 視頻特效等新的應用.
周晨認為在雲端進行AI運算的方式, 如增加模型的大小和層數並不是真正的方向. AI開始從雲端往終端遷移會把運算量和網路大小減少100倍, 也會減少對網路頻寬的需求. '隨著算力的提升和演算法的優化, 最後會形成一個很好的甜蜜點. ' 周晨表示, 在今年CES期後他去矽谷開會, 發現業內都在討論On device. 開始做AI的公司多如牛毛, 光是晶片公司都很多.
'終端的性能現在是瓶頸, 大批公司雖然水平參差不齊, 但是都在往晶片端走, 如何解決相容性問題, 如何讓演算法更流暢, 成為大家關注的焦點. ' 周晨表示, 從2017年的數據來看, AI的算力雲端佔了95%, 終端只佔5%, 這兩點的巨大差距會帶來很大的成長空間.
當然, 由於目前的AI演算法更新升級速度很快, 如何滿足一定的變化性呢? 周晨認為, 未來比較合適的架構應該是CPU+硬體加速器的做法. 對於華為麒麟, 因為是一家硬體平台公司, 自然更偏向用硬體的方式來做, 提供通用性的加速器, 從而滿足大部分的演算法需求. 目前跑演算法大概有兩種方式: 一種是用CPU跑純軟體, 另一種是通過硬體加速器來固定演算法. 此外, 從AI運算的需求本身來看, 大部分是計算密度要求很高的行為, 也需要用非常高效的硬體方式去做. 周晨認為, 從晶片的發展曆史來看, 很多演算法一旦穩定成熟下來就會固定用硬體來做.
'我們自己有GPU, DSP資源, 把異構這件事做好以後, 對於第三方的未知應用都儘可能加速到. 因為手機是開放型平台, 所以我們必須這樣做. ' 周晨表示, 麒麟的定位就是平台算力的提供者, 同時會提供SDK讓開發者來運行自己的應用和演算法. '再往上可能華為在手機端會提供一些業務級的介面, 這些介面不需要開發者自己來做演算法, 比如卡路裡識別, APP只要直接調用介面就可以了. '
下一代AI晶片怎麼做?
對於華為的下一代AI晶片, 周晨沒有透露太具體的規格或參數. 但他表示, 後面兩代的產品定義經明確, 基本上有幾個方向不會變: 第一是算力會持續上漲. 第二是專註在通用的AI運算平台上, 持續將AI運算能力開放給更多開發者. 第三是AI晶片的工藝會越來越先進, 更新速度可能會比摩爾定律還要快.
'當我們把算力釋放出去以後, 可能會有一大票應用能力提升. 這會產生正向迴圈, 會有越來越多的開發者做一些新的好的體驗. ' 周晨表示, AI本身是一種技術, 但是未來的價值會體現在有多少開發者來開發出相關的應用.
目前業界有一種觀點, 認為AI的深度學習需要數據來餵養, 因此擁有越龐大數據量的互聯網公司, 如BAT會在未來AI領域佔據核心優勢. 對於這個說法, 周晨認為麒麟970算力和演算法上其實都具有優勢, 至於數據方面也不是問題.
第一個原因是演算法本身在升級, 機器學習本身的效率在提升. '深度學習的方式跟人腦的學習方式差別還是很大的, 比如小孩看幾張貓的照片就能認識什麼是貓, 不需要看十萬張照片來學習. ' 周晨認為, 人腦其實是在做更高一層的演算法, 提取更高維度的特徵. 因此當演算法升級後, 將不再需要那麼海量的數據來做深度學習.
第二個原因是終端已經成為人的計算中心, 手機上產生的數據才是真正一手, 新鮮的數據, 而雲端的數據可能是經過壓縮或精簡的二手數據.
周晨認為, 2018年後, AI將成為各大手機公司的標配需求, 手機端龐大的一手數據將會利用起來, 而只有終端AI硬體能力普及後, AI應用才有可能百花齊放, AI生態才有可能真正成熟.
華為 'HiAI' 是什麼?
對於晶片公司來說, 如何滿足AI不同演算法應用及生態圈的差異化需求成為難點和重點. '華為還會提供一個HiAI架構, 我們也會有一個定期舉行的HiAI的公開課, ' 周晨最後表示, 華為日前針對工程師舉行了 '華為HiAI能力開放公開課' , 將幫助嘗試投身人工智慧領域的企業和開發者, 提升技術人員競爭力, 促進行業技術的提升, 共同推動人工智慧生態的發展.
什麼是華為HiAI呢?據了解, HiAI移動計算平台開放三層的能力, 分別為雲端能力開放(Huawei HiAI Services), 端側應用能力開放(Huawei HiAI Engine)和端側晶片能力開放(Huawei HiAI Accelerator).
其中, 底層Huawei HiAI Accelerator是HiAI晶片能力開放的核心內容, 能夠快速轉化和遷移已有模型, 藉助NPU的加速獲得最佳性能, 主要依靠麒麟晶片實現. 華為HiAI引擎的目標, 通過開放應用層API, 使能開發者在不懂AI演算法的情況下也能開發高質量AI應用, 完全聚焦在應用的體驗和業務實踐上, 而不是聚焦在後端大量的模型訓練和演算法上.
目前在火熱的AI領域, 更快速的推出高質量AI應用是搶佔市場先機的最好手段, 本次Huawei HiAI Engine就是通過開放和共用華為自有應用層商用級的AI能力API來使能合作夥伴在未來的競爭中贏得先機, 使能華為手機上面的應用都能提供業界最佳的AI體驗. 因此, Huawei HiAI Engine面向移動終端提供多種AI能力和JAVA應用層介面.