斯坦福大學近日更新了DAWNBenchmark的4月份的成績.
DAWNBench是一套用於端到端深度學習訓練和推理的基準套件. 它提供了一套通用的深學習評價指標, 用於量化訓練時間, 訓練成本, 推理延遲以及推理成本, 並通過不同的優化策略, 模型體繫結構, 軟體框架, 雲和硬體來計算推理成本.
Intel的ResNet模型(Caffe框架), 即完全由Xeon處理器構建的亞馬遜EC2平台, 推理延遲和推理成本上都拿下第一.
具體來說, Intel平台處理10000張圖片的延遲是9.96ms, 成本0.02美元 . 成本方面, 最接近Intel的是NVIDIA基於MXNet框架的K80顯卡+4 CPU平台, 0.07美元, 延遲29.4ms.
測試中, Intel Xeon在計算方面的主要對手, 一是穀歌自研的TPU v2 (張量處理器) , 二是NVIDIA的GPU陣列 (包括Tesl V100) .
當然, 圖形識別 (93%以上精度) 的總訓練時間上, 基於穀歌TPU v2, TensorFlow學習框架的ResNet50模型高居第一, 僅需30分鐘, 比第一代提升了477倍.
這套測試我們可以這樣理解, 不同硬體平台相當於考生, 大家同時開始背一套考試題和答案, 名叫穀歌的考生最先背會, Intel則是考場上作答速度和準度最高的.
考慮到Intel正在全力研發圖形處理器, 深度學習方面對NVIDIA和穀歌還有一場惡戰.
