早在2016年6月20日, 中星微就率先發布了中國首款嵌入式神經網路處理器 (NPU) 晶片——星光智能一號; 2018年5月18日, 中星微又在2018松山湖IC創新高峰論壇上, 推出了第二代人工智慧晶片——星光智能二號. 據了解, 中星微星光智能一號在安防監控領域導入的晶片就有幾萬顆, 目前中星微整體晶片出貨超過3億美元.
從2016年中星微發布中國首款嵌入式NPU晶片後, 經過兩年的發展, AI領域的投資和應用案例呈現井噴的態勢. 那麼, 目前人工智慧晶片處於什麼階段? 未來AI晶片的終極形態又是怎樣? 中星微智能有限公司首席技術官張亦農給出了答案, 並介紹了中星微第二代人工智慧晶片——星光智能二號.
人工智慧晶片處於什麼階段?
從產業發展的角度來看, 人工智慧一般會經過從技術驅動, 到應用驅動, 再到商業驅動的發展過程. 目前人工智慧的核心技術已經進入應用驅動階段, 並在智能手機, 安防監控, 生態保護, 智能家居, 無人系統, 航天軍工, 高鐵運維等系統上開始規模化導入.
張亦農表示, 人工智慧現在處於應用驅動階段, 應用驅動的關鍵就是要給行業帶來實質的產品. 當前人工智慧領域投資, 應用案例呈現井噴的態勢, 會快速推動人工智慧向前發展, 而在應用驅動過後, 人工智慧將進入商業驅動階段, 屆時AI會像互聯網一樣無所不在, 此時的AI就會演變為一場商業模式的較量.
在目前的應用驅動階段, AI應用有前端和雲端兩種方式. 其中, 雲端的應用主要包括新零售智能畫像, 運營商智能網路管理等方式; 而在前端, AI在安防監控領域的應用是極佳的落地場景. 通過前端小智能雲端大智能, 把前端和雲端做到有機結合, 能夠讓線上推理的即時性, 數據的傳輸做的更好.
過去十多年, 安防監控經曆了從類比監控, 數字監控到網路監控. 現在發展到智能監控, 也是水到渠成的演化過程. 而從智能和監控的角度來看, 安防監控演化的核心在於監控標準的編碼和理念, 並引入人工智慧的元素. 過去編碼標準裡引入人工智慧, 一定程度上碼率很難往下降, 現在採用人工智慧深度學習可以讓碼率繼續下降.
另外, 從應用驅動的角度看, 人臉識別, 車輛識別的應用稱出不窮, 如何把資訊有效統一起來傳到後台, 還要靠標準. 通過SVAC國家標準與專用資訊通道有機結合, 這也是行業應用中真正的落地點.
ASIC晶片將會最終形態
近年來, 隨著以比特幣為代表的虛擬貨幣市場的持續火爆, 帶動了一批 '挖礦' 廠商崛起, 其中最知名的要屬比特大陸.
而比特大陸之所以能夠在礦機市場異軍突起, 則主要得益於其針對比特幣礦機設計的ASIC晶片. 因為相對於CPU, GPU來說, 採用專用的ASIC晶片 '挖礦' 更具效率.
張亦農認為, 只要演算法足夠成熟, 且有足夠的算力和功耗推動, 人工智慧晶片也會很快走到ASIC.
從人工智慧深度學習來看, 在區塊鏈挖礦領域, 從2011到2013年晶片設計非常快的走完了從CPU→GPU→FPGA→ASIC的完整流程; 並且從2013到2018年, 在製程上, 從0.13微米到7nm製程, 中間相隔的10個工藝級別也快速走完, 這比一般的晶片設計公司兩年迭代一次的速度要快很多. 所以, 張亦農強調, 只要有劇烈需求就會有快速轉換, 未來ASIC肯定是人工智慧晶片的主流.
在AI晶片的設計定位上, 目前業界對AI晶片是做主處理器還是做協處理器, 還存在不同的思考.
實際上, 做協處理是一定的好處, 協處理器的晶片設計相對單一, 不需要介入更多的行業應用, 但張亦農認為, AI應用對DDR和Memory頻寬是不可或缺的, 如果只做協處理器, 對今後做大規模晶片的可行性和生態發展都有一定的局限, 所以中星微選擇的是單晶片SoC整合的方案.
當然, 張亦農也強調, 人工智慧晶片的設計, 要量體裁衣, 目前在應用驅動階段, 晶片的算力不需要超過其他功能的性能指標; 而是要去追求性能和成本的平衡點, 追求利用單元率的靈活性和能耗比.
明年5月份發布第三代AI晶片
基於上述人工智慧晶片的設計路徑和所處的應用驅動階段, 一個標準的人工智慧應用是如何完成部署的呢?
張亦農透露, 一個標準的人工智慧應用的部署可分三步走, 第一步是要在雲端進行大規模訓練. 訓練包括標記, 浮點模型等, 這個模型會形成產生非常大的參數集; 第二步, 前端應用時要把模型參數降下來. 在這個過程中還涉及到再訓練, 再訓練所化的時間比第一步會少很多; 第三步將定點化縮小的模型下載到硬體進行模擬優化和前端推理.
在具體應用部署上, 以人工智慧鎖定犯罪嫌疑人為案例, 第一步進行資訊採集編碼; 第二步是對抽取的映像通過深度學習, 將人, 物的識別和軌跡識別做出來; 第三步對結構化的資訊設置標籤, 直接嵌入在標準中以ASIC的形式上傳; 第四步接入公安平台, 後續破案直接進行結構化標籤的搜索, 鎖定嫌疑人.
而這套標準化的人工智慧應用部署也正是中星微在人工智慧領域的強項. 從目前的反饋來看, 中星微已經量產的星光智能一號在視頻監控領域對識別, 分類, 跟蹤都有獨特優勢. 相比傳統方案存在誤報, 漏報較高等問題, 中星微人工智慧方案的精準度有大幅提升, 在實際刑偵中應用佔有比率超過90%, 未來應用空間巨大.
相比星光智能一號, 此次中星微最新發布的第二代產品VC0718P ——星光智能二號則具備更高的性能, 支援國家標準SVAC2.0視音頻編解碼, 支援高達30fps@1080P視頻即時編碼, 內置高性能多核處理器, 可運行多種AI演算法, 實現前端智能, 支援CABAC, 雙向B幀, ROI, SVC, 監控專用資訊, 加解密等SVAC特性, 支援BT.1120數據輸出, 與外部AI協處理器無縫連接.
其中, 第二代NPU採用了分布式結構和並行計算的方式, 提供更為靈活的硬體方案; 運算能力可以滿足1080P@30fps即時分類檢測的需求, 是第一代NPU的16倍; 採用了獨特的網路精簡技術, 大幅降低了數據吞吐量, 進一步提升了晶片的能耗比和效率; 大幅增加了片上SRAM的容量, 減少了記憶體頻寬上的壓力, 整體效率比第一代有大幅度的提升.
從2014年定義人工智慧晶片, 到2015年完成設計架構, 再到2016年正式發布星光智能一號, 以及此次發布的星光智能二號, 中星微在人工智慧領域的路線布局並未止步, 據悉, 中星微第三代人工智慧晶片也在規劃中, 將在2019年5月份正式發布.