訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
配備4608顆H100 輝達展示超級電腦Eos 為AI開發設計
鉅亨網新聞中心
獲取產業訊息零時差!立即訂閱電電公會電子報。

輝達 (NVDA-US) 周四發布了一段影片,首次讓公眾一睹 Eos 的架構,Eos 是其最新的面向企業的超級計算機,專為數據中心規模的高級人工智慧開發而設計,也是該公司最快的人工智慧超級電腦。

Eos 電腦目前由輝達自己使用,在最新的 Top 500 榜單中,它被評為世界上性能最高的超級電腦的第 9 位,該榜單以 FP64 為衡量標準。在純人工智慧任務中,它很可能是速度最快的超級電腦之一。

同時,它的藍圖也可以用來為其他公司建構以企業為導向的超級電腦。

Eos 在 2023 年 11 月的 Supercomputing 2023 大會 (SC23) 上亮相,以希臘女神 Eos 命名,據說她每天打開黎明的大門,這彰顯了輝達對推進 AI 技術的承諾。

輝達在影片中表示:「每天,EOS 都在迎接輝達數千名從事人工智慧研究的內部開發人員的挑戰,幫助他們解決以前無法解決的問題。」

輝達的 Eos 配備了 576 個 DGX H100 系統,每個系統包含 8 個 輝達 H100 GPU,用於人工智慧 (AI) 和高效能運算 (HPC) 工作負載。 該系統總共配備了 1,152 個 Intel Xeon Platinum 8480C(每個 CPU 56 個核心) 處理器以及 4,608 個 H100 GPU,使 Eos 能夠在 HPC 和 AI 方面分別實現令人印象深刻的 Rmax 121.4 FP64 PetaFLOPS 和 AI18.4 88 性能。

Eos(依託於 DGX SuperPOD 架構) 的設計專為人工智慧工作負載和可擴展性而打造,因此它採用了輝達的 Mellanox Quantum-2 InfiniBand with In-Network Computing 技術,該技術的數據傳輸速度高達 400 Gb /s,這對於有效訓練大型人工智慧模型和擴大規模至關重要。

輝達表示,除了強大的硬體之外,輝達的 Eos 還配備了強大的軟體,同樣是專門為人工智慧開發和部署而建置的。 因此,輝達的 Eos 可以解決各種應用程序,從類似 ChatGPT 的生成式 AI 到 AI 工廠。

輝達在影片中表示:「Eos 擁有一個整合的軟體堆疊,其中包括人工智慧開發和部署軟體,包括編排和叢集管理、加速運算儲存和網路庫,以及針對人工智慧工作負載優化的作業系統。」 

輝達未透露 Eos 的成本是多少,而且 NVIDIA  DGX H100 系統的定價是保密的,取決於許多因素,例如數量,這也無濟於事。同時,考慮到每台 NVIDIA  H100 的成本可能在 3 萬至 4 萬美元之間,這取決於數量,因此可以大致估測出其有多昂貴。

輝達認為,隨著世界各地的企業和開發人員尋求利用 AI 的力量,Eos 成為一種關鍵資源,有望加速實現能為每個組織提供動力的 AI 驅動應用進程。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。