訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
最新MLCommons測試結果 英特爾在AI領域取得重大進展
CTimes王岫晨
獲取產業訊息零時差!立即訂閱電電公會電子報。

MLCommons公布業界AI效能基準測試MLPerf Traning 3.0的結果,其中Habana Gaudi 2深度學習加速器和第4代Intel Xeon可擴充處理器,均取得優異的訓練結果。

英特爾執行副總裁暨資料中心與AI事業群總經理Sandra Rivera指出,MLCommons所公布的最新MLPerf結果,驗證了Intel Xeon處理器和Intel Gaudi深度學習加速器在AI領域帶給客戶的TCO(Total Cost of Ownership)價值。Xeon內建加速器是在通用處理器上執行大量AI工作負載的理想解決方案,Gaudi則在大型語言模型和生成式AI方面提供具競爭力的效能。英特爾的可擴展系統搭配最佳化、易於程式設計的開放式軟體,降低了客戶和合作夥伴於資料中心部署各類雲端到智慧邊緣AI解決方案的門檻。

業界傳聞生成式AI和大型語言模型(LLM)僅能在NVIDIA GPU上執行。新資料顯示,英特爾的AI解決方案產品組合,為希望擺脫限制效率和規模的封閉生態系的客戶,提供極具競爭力的選項。

最新的MLPerf Traning 3.0結果,突顯出英特爾產品在一系列深度學習模型上的效能。以Gaudi2為基礎的軟體和系統,其訓練成熟度在大型語言模型GPT-3上獲得大規模的證實。在僅有兩款提交GPT-3 LLM訓練基準測試效能結果的半導體解決方案當中,Gaudi2是其中之一。

Gaudi也為客戶提供極具競爭力的伺服器和系統成本優勢。該加速器在GPT-3、電腦視覺和自然語言模型上經過MLPerf驗證的效能,加上即將推出的軟體進展,讓Gaudi2相對於NVIDIA H100而言,在性價比上成為極具吸引力的選擇。

在CPU方面,搭載英特爾AI引擎的第4代Xeon處理器所展現出的深度學習訓練效能,讓客戶可以使用Xeon伺服器建構單一通用AI系統,用以資料預處理、模型訓練和部署,藉此提供AI效能、效率、準確性和可擴展性的正確組合。

Habana Gaudi2結果:訓練生成式AI和大型語言模型需要伺服器叢集來滿足大規模的運算需求,GPT-3是款具備1750億個參數的嚴苛模型,MLPerf結果確切驗證了Habana Gaudi2在GPT-3上的出色效能和高效擴展性。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。