訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
美光:伺服器異質運算比重增加 預估記憶體需求上看6倍
獲取產業訊息零時差!立即訂閱電電公會電子報。

各種新的應用造就資料儲存和運算的需求,而過往大家注目焦點的零元件如儲存和記憶體廠商,因應AI時代來臨,而提出他們相對應的策略。美光5月29日在COMPUTEX展覽期間舉行媒體活動,美光運算與網路業務部門資深副總裁暨總經理Thomas T.Eby指出,資料中心因異質運算比重增加,記憶體需求也將增加6倍。

Eby解釋記憶體增加6倍的依據,說過往資料中心以CPU構成運算主力,如今因為各項應用,有更多異質性運算元件的需求,如TPU、GPU、FPGA、ASIC、神經網路運算晶片。比起單純用CPU構成的運算能力,Eby指未來在資料中心中增加新的異質性元件,增加6倍的記憶體是有依據的。

至於要怎麼滿足資料中心,AI架構所需要的運算需求,美光會與製造商加強彼此合作,解決人工智慧等應用之下,減少資料傳輸的距離,要求記憶體必須鄰近運算的工作負載,亦被稱為“記憶體內運算”。在新興應用之下,資料得更靠近記憶體,甚至在記憶體直接運算,但仍還要研究出具體做法。

美光認為資料是今日的全球貨幣,預估全球需傳輸、儲存、分析的資料量將於9年內成長10倍,至2023年時達103ZB。面對如此龐大的資料量,如何將其轉化為資訊並從中挖掘有用的洞見將是一項難題,而人工智慧在資料分析的過程扮演要角。若以比喻說明,人工智慧以運算為腦,記憶體與儲存則為其心。

根據美光委託Forrester訪問建構人工智慧平臺的工程師和IT專家的結果顯示,開發人工智慧系統時,首要考量並非運算,而是如何打造記憶體與儲存架構以滿足龐大運算需求。報告中有超過9成的受訪者表示,記憶體與儲存架構攸關開發人工智慧系統的成敗,儲存與記憶體輸送量的重要性更勝於運算,且運算與記憶體間的距離越來越近。

在自駕車的記憶體需求方面,Eby也表示,未來每輛L5級自駕車,將會配置8-12個解析度高達4K-8K的顯示幕幕,而為了支援V2X連結,記憶體每秒需處理0.5-1 TB的資料量,在車內娛樂系統方面,記憶體頻寬需求每秒也將達150-300 GB。未來自駕車將會像飛機一樣有黑盒子,以每30秒持續錄製片段,紀錄車內外狀況,因此記憶體頻寬需求每秒也達到1 GB。此外,在車輛生命週期中,會重複寫入的資料加起來將有150 PB(Petabyte),所以對記憶體與儲存的效能與耐用性要求會特別高。

未來將有越來越多邊緣裝置,甚至是車子也可以視為特殊樣貌的邊緣裝置,Eby說美光看到記憶體元件的機會。另外傳統資料中心演變成分散式的伺服器配置,類似未來5G的基地台設置模式,美光也會過程中要滿足夥伴的記憶體需求。

Eby表示:“美光本身就是人工智慧應用的最佳案例。透過導入人工智慧至生產廠區,美光得以增加生產良率、促進工作環境安全與提升整體效能。”Thomas T.Eby進一步指出:“美光引入人工智慧打造智慧製造,所得到的成果包括達到成熟良率的時間縮短25%、提升晶圓產出10%以及產品品質事件減少35%,效果顯著。”

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。