斯坦福大学近日更新了DAWNBenchmark的4月份的成绩.
DAWNBench是一套用于端到端深度学习训练和推理的基准套件. 它提供了一套通用的深学习评价指标, 用于量化训练时间, 训练成本, 推理延迟以及推理成本, 并通过不同的优化策略, 模型体系结构, 软件框架, 云和硬件来计算推理成本.
Intel的ResNet模型(Caffe框架), 即完全由Xeon处理器构建的亚马逊EC2平台, 推理延迟和推理成本上都拿下第一.
具体来说, Intel平台处理10000张图片的延迟是9.96ms, 成本0.02美元 . 成本方面, 最接近Intel的是NVIDIA基于MXNet框架的K80显卡+4 CPU平台, 0.07美元, 延迟29.4ms.
测试中, Intel Xeon在计算方面的主要对手, 一是谷歌自研的TPU v2 (张量处理器) , 二是NVIDIA的GPU阵列 (包括Tesl V100) .
当然, 图形识别 (93%以上精度) 的总训练时间上, 基于谷歌TPU v2, TensorFlow学习框架的ResNet50模型高居第一, 仅需30分钟, 比第一代提升了477倍.
这套测试我们可以这样理解, 不同硬件平台相当于考生, 大家同时开始背一套考试题和答案, 名叫谷歌的考生最先背会, Intel则是考场上作答速度和准度最高的.
考虑到Intel正在全力研发图形处理器, 深度学习方面对NVIDIA和谷歌还有一场恶战.
