在生成式人工智慧(AI)的帶動之下，記憶體的市場成長力道強勁，由DDR5 與高頻寬記憶體(HBM)帶頭迎來復甦。過去記憶體產業受到景氣循環影響，疫情後接連面臨消費電子庫存與通膨的衝擊，市場一度疲軟。目前則隨著生成式AI應用開枝散葉，訓練大型語言模型(LLM)需要更高的記憶體容量與傳輸速度支援。台灣在其中可望基於深厚的半導體技術，發展用於邊緣運算的DRAM、Wafer on Wafer DRAM及客製化的高頻寬記憶體等產品，搶攻AI記憶體商機。

根據調研機構Yole Group分析，生成式AI帶動DDR5 DRAM及HBM等高速記憶體的市場成長。其中，尤其HBM的市場規模，可望成長至超越DRAM市場。預期2024年HBM的出貨量將成長147%，並創造140億美元的收益。

工研院電子與光電系統研究所所長張世杰(圖1)表示，在AI龐大的效能需求下，使用者對於設備的DRAM容量與傳輸頻寬的需求攀升，帶來記憶體以DDR5為主流規格的市場趨勢。HBM市場也受到AI帶動，常見的GPU與伺服器都採用大量的HBM，以支援AI的運算需求。可預期隨著AI應用蓬勃發展，HBM的需求也持續成長。

圖1　工研院電子與光電系統研究所所長張世杰

台灣應建立半導體AI護城河

HBM因為AI而備受矚目，目前的供應商以韓國的SK海力士(SK Hynix)、三星(Samsung)及美光(Micron)為主。鈺創董事長、執行長暨創辦人長盧超群(圖2)直言，台灣的記憶體產業難以直接切入HBM商機，但是在晶圓代工方面與HBM供應商及伺服器廠商合作，協助晶片代工。回顧台灣半導體產業在記憶體IC的發展，2000年左右發酵的良品裸晶(Know Good Die, KGD) 技術，為異質整合奠定穩固的基礎，也為DRAM堆疊鋪路。現階段台灣在高速記憶體產業中，除了既有的代工角色，邊緣運算所需的客製化DRAM也是值得投入的市場。

圖2　鈺創董事長、執行長暨創辦人盧超群

即便現階段市場需求以HBM為主，盧超群認為，終端智慧裝置除了應用DDR5 DRAM，將會大量採用可滿足特殊邊緣運算需求的DRAM。因此廠商如鈺創建立整合DDR系統的MemoraiLink平台，未來平台也將支援AI DRAM的整合，協助客戶透過KGD與異質整合優化產品。在產業應用走向全面智慧化的年代，台灣應掌握半導體代工、封裝、測試與散熱設計等優勢，建立垂直整合的AI供應鏈。台灣就能透過供應鏈所形成的護城河，在全球的AI技術發展中保有一定的聲量。

DRAM堆疊/客製化記憶體可望突圍

除了客製化DRAM應用，「平價版HBM」也是台廠切入高速記憶體的機會。張世杰表示，目前已有台廠投入Wafer on Wafer的DRAM堆疊研發，透過堆疊多片DRAM，打造傳輸頻寬更高的記憶體，並且期望發展為更具價格優勢的高頻寬記憶體。然而Wafer on Wafer DRAM仍有需要克服的挑戰，首先是Wafer on Wafer標準化不易，同時晶片堆疊必須處理複雜的散熱問題，因此DRAM的Wafer on Wafer技術還有一段路要走。

另一方面，高頻寬客製化記憶體也是台廠可以把握的商機。華邦電子部經理曾一峻(圖3)說明，生成式AI的出現，讓記憶體產業有了新的機會，客製化記憶體的市場需求應運而生。因為AI的邊緣裝置需要高頻寬、中低容量、低功耗記憶體，雖然HBM3e的頻寬為1.2TB/s，但是功耗太高，只適用於AI伺服器。而2026年LPDDR6預計可達到超過150GB/s的傳輸速度，但是除了LPDDR之外，市場上沒有其他符合終端AI裝置需求的記憶體，因此需要客製化記憶體的支援。

圖3　華邦電子部經理曾一峻

同時，當邏輯製程微縮至7nm以下，SRAM微縮效益不明顯，加上須支援AI運算，設備對SRAM容量的需求高速成長。此時，SoC會面臨到高容量SRAM占據了很大的面積，導致成本快速升高。因此廠商如華邦的CUBE解決方案，具有高頻寬且低功耗的特性，可以大幅縮減SoC內部的SRAM需求，有助於系統提升效能，同時降低成本。

記憶體產業受到生成式AI應用帶動，HBM備受市場矚目，其他高速記憶體的發展也值得期待。HBM的供應商以三大廠為主，台灣的記憶體產業若要投入高速記憶體市場，就需要另闢蹊徑。在這一波高速記憶體商機中，台廠可基於半導體設計與製造等技術優勢，朝向邊緣運算DRAM、Wafer on Wafer DRAM及客製化的高頻寬記憶體等方向研發，將有機會切入AI記憶體商機。