有鑑於生成式人工智慧（Genrative AI）模型不斷進化，使得資料產出量加速膨脹，生成式AI依存的資料中心，除了在運算能量、能源消耗大幅度成長外，容量和頻寬連帶有大量擴充的需求，來支持生成式AI使用者不斷成長的創造力和生產力。
趨勢發展背景
生成式AI服務的經典應用，如蘋果Siri、亞馬遜Alexa、GPT-3.5等，都需要藉由雲端的資料中心進行後台運算，再回傳到使用者持有的終端行動裝置上；後隨著生成式AI被激發出自動寫程式、自動繪圖等潛能之後，伴隨著資料量的成長，驅使資料中心運算能力和容量也需連帶成長。
值得一提的是，資料中心的聯外頻寬連帶影響資料中心和終端裝置之間銜接的流暢度，若頻寬不足將會影響生成式AI的運算能量和使用體驗。主打高頻寬、低延遲的5G行動網路，在問世一段時間後，旋即遇上生成式AI浪潮衝擊，挑戰著5G行動網路是否能支持頻寬上限，也迫使5G網路依存的資料中心和基礎設施必須比以往採取更快、更早的步調，讓頻寬和容量同步成長。
產業趨勢說明
依據IDC Global StorageSphere 2023報告指出（Rydning, 2023），全球資料中心的總容量預估，從2023年的10.1ZB（101億TB），預估在2027年成長為21.0ZB（210億TB），年均複合成長率（CAGR）為18.5%。
另一方面，依據市調機構Dell’Oro Group的資料（Boujelbene, 2024）顯示，從2020至2022年的網路交換器頻寬流量分布，推測從2023至2027年間，因應生成式AI使用量成長的頻寬流量分布演變：包括2020年以100至200Gbps的容量為主；2023年以200至400Gpbs容量為主，並開始有較大容量的800Gbps出現；而2027年則以800至1600Gbps容量為主、400Gbps則減少到10%以下。
圖 1 因應生成式AI流量成長，帶動資料中心頻寬連帶成長
資料來源： (Boujelbene, 2024)
未來展望／挑戰
在5G網路逐漸無法應付生成式AI使用量的急速成長下，幸虧隨著晶片製程的進步，使行動裝置具備了一定比重的運算能量，來實現生成式AI的邊緣運算，於裝置端先期處理部分較為簡單的運算能量，以減少此一部分資料中心和基礎設施的容量和頻寬負載。
近年，隨著永續性（Sustainability）意識的增長，資料中心也要加入節能減碳設計，資料中心主機內的AI晶片製程，除了追求更高運算效率之外，也要追求更低能耗、更低發熱，以期在兼顧節能減碳需求的前提下，穩定地朝更大的容量和頻寬向前邁進，讓生成式AI使用者繼續享受到大容量、大頻寬的即時運算優勢。
封面圖片來源: 123RF
參考資料來源:
- Boujelbene, S. (2024, January 10). Exploring the Data Center Switch and AI Networks Markets Landscape in 2024. Retrieved from Dell'Oro Group: https://www.delloro.com/exploring-the-data-center-switch-and-ai-networks-markets-landscape-in-2024/
- Rasheed, A. (2024, January 8). AI Workloads Put Data Center Performance to the Test. Retrieved from Spirent: https://www.spirent.com/blogs/ai-workloads-put-data-center-performance-to-the-test
- Steele, K. (2024, January 31). Growth of AI creates unprecedented demand for global data centers. Retrieved from JLL: https://www.jll.ca/en/newsroom/growth-of-ai-creates-unprecedented-demand-for-global-data-centers