斯坦福大學近日更新了DAWNBenchmark的4月份的成績。
DAWNBench是一套用于端到端深度學習訓練和推理的基準套件。它提供了一套通用的深學習評價指標,用于量化訓練時間、訓練成本、推理延遲以及推理成本,并通過不同的優(yōu)化策略、模型體系結構、軟件框架、云和硬件來計算推理成本。
Intel的ResNet模型(Caffe框架),即完全由Xeon處理器構建的亞馬遜EC2平臺,推理延遲和推理成本上都拿下第一。
具體來說,Intel平臺處理10000張圖片的延遲是9.96ms,成本0.02美元。成本方面,最接近Intel的是NVIDIA基于MXNet框架的K80顯卡+4 CPU平臺,0.07美元、延遲29.4ms。
測試中,Intel Xeon在計算方面的主要對手,一是谷歌自研的TPU v2(張量處理器),二是NVIDIA的GPU陣列(包括Tesl V100)。
當然,圖形識別(93%以上精度)的總訓練時間上,基于谷歌TPU v2、TensorFlow學習框架的ResNet50模型高居第一,僅需30分鐘,比第一代提升了477倍。
這套測試我們可以這樣理解,不同硬件平臺相當于考生,大家同時開始背一套考試題和答案,名叫谷歌的考生最先背會、Intel則是考場上作答速度和準度最高的。
考慮到Intel正在全力研發(fā)圖形處理器,深度學習方面對NVIDIA和谷歌還有一場惡戰(zhàn)。