人工智慧(AI)是近期最火熱的話題，不過它並非新興技術。早從降低工廠製造的產品缺陷，再到協助使用者透過智慧型手機拍出更好的照片，AI早已深入人們的日常生活當中。AI亦可以從許多面向顛覆產業並改善人類的生活。舉例來說，在科技產業和醫療技術發達的台灣，ASUS EndoAim AI內視鏡系統可在臨床即時標記息肉，準確率達98％。Avalue Technology運用AI推論技術將骨質疏鬆症篩查時間從6週縮短至6秒，在在顯示AI提升人類福祉的潛力。
然而AI在最近幾個月占據全球頭條新聞版面，這得要歸功於ChatGPT的崛起。ChatGPT是一款生成式AI應用，其透過消化大量資料進而模仿人類創造內容。ChatGPT讓人們更容易理解AI的力量，並隨時可供大眾探索、使用。
這股AI新浪潮亦讓許多企業競相尋找提升自身AI能力的方式。AI不再僅僅是語音助理，它變得更能夠互動，以多樣化的方式協助大眾，例如為網站編寫程式碼、或者創造新的音樂和藝術。
無論是從消費電子再到邊緣與雲端，運算需求只會隨著AI應用起飛而攀升。然而在這場熱潮的背後，成功部署AI所需運算能力的複雜性卻不常被提及。
AI民主化始於運算
未來的AI模型只會吸收越來越多的資料，藉此產生對企業有用的回應。為了贏在起跑點，組織必須從試圖解決問題或實現目標上，開始採用高效率且具成本效益的方式，運用適當的運算和軟體來汲取AI優勢。
上述描繪的狀況，只有在AI能夠即時、準確地執行才有意義。對於模型訓練、決策或預測、影像或語音辨識、以及擴展AI系統所需的速度與效能來說，運算是不可或缺的一環，可將運算看作是協助機器理解世界，並做出進一步動作的大腦。
這也是為什麼隨著AI及其演算法的發展，大腦也必須隨之提升所需能力。這些運算大腦不僅要為AI提升效能，還要以更有效率、安全、可擴展和永續的方式實現。欲達成此目標並讓AI民主化，異質運算以及針對不同AI應用情境的開放式生態系將不可或缺。
異質運算提升AI效能/成本和能源效率
未來的使用者預期AI具備更快的速度和效能，意謂著運算能力需求將呈指數級成長。倘若企業僅是增加更多的中央處理器(CPU)和圖形處理器(GPU)，或是盲目建立更多的資料中心來滿足AI所需，都是沒有意義的。
欲推動AI的普及化，組織必須考量兩個關鍵層面。第一點，確認所需要的AI工作負載類型，是用在與客人互動的AI聊天機器人，還是用來創造新內容的大型生成式AI模型(例如ChatGPT)？是用於檢測產品缺陷的影像辨識解決方案，還是其它種類的AI工作負載？第二點，成本也是個重要的考慮因素，這決定了大眾是否能夠輕易地使用AI解決方案。
與傳統觀念相反，並非所有AI工作負載都需要GPU。事實上，通用CPU往往是完成某些AI任務的高效率替代方案，與現今許多資料中心所使用的CPU一致。
以訓練GPT-3等語言模型的工作負載為例，訓練一個此類大型語言模型的成本可能高達數百萬美元，但絕大多數組織應不會達到這種規模，反而需要訓練規模較小的模型。事實上，絕大多數組織只需要使用預先訓練好的模型，接著利用自己的小型資料集對其進行微調。此類微調使用AI軟體和其它標準的業界開源軟體，在通用CPU上僅需執行數分鐘即可完成。
確切需要訓練大型語言模型的情況下，產品如英特爾的Gaudi2等AI專用加速器，可提供傳統GPU的替代方案。Gaudi2實際上在伺服器和系統成本方面，為客戶提供具競爭力的成本優勢。此加速器的效能經過MLPerf驗證，再加上即將推出的軟體進展，讓Gaudi2成為GPU以外，頗具性價比的替代方案。
因此若要解決AI的挑戰，必須通盤考量，把大相逕庭的使用案例、工作負載和功耗要求納入考慮。這意味著針對不同的AI應用，將需要打造專門且高度精密的各種運算組態，可能由CPU、GPU、FPGA或是其它加速器等多樣化的架構和硬體所組成。
簡而言之，運算方面並沒有絕對一致的解決方案，因此運算平台必須具備靈活性和可擴展性，以便滿足不斷變化的工作負載需求，進而達成AI的實用性，這比過去任何時候都還重要。
AI需要開放式生態系
雖然業界經常談論到晶片，但是AI也是個軟體問題，需要開放式生態系來實現AI民主化，而軟體是釋放AI力量和可擴展性的關鍵。若是沒有一系列最佳化的軟體框架和工具包來支援執行AI工作負載的硬體，僅依賴開箱即用的效能表現，將無法滿足最佳業務要求。
開發者需要一種「單次建置、隨處部署」的方式，並搭配具有靈活性、開放性和能源效率的解決方案，以適應各式各樣的AI應用。以英特爾oneAPI工具包為例，該工具能夠讓企業僅需撰寫一次程式碼，即可在多樣化的平台上執行。此外， oneAPI的概念發展出OpenVINO，協助開發者快速地發展終端運算應用，讓佈建更為廣泛。
此類工具可以協助企業最佳化AI工作負載的效能，同時最大程度降低管理多種硬體平台的成本和複雜性。基於開放生態系的AI，更容易被廣泛使用，也更具成本效益。其去除了限制進步的阻礙，讓開發者能夠在優先考量功率、價格和效能的同時，於任何地方建立和部署AI，並為他們的每項工作選擇最合適的硬體和軟體。
投資AI未來
AI毫無疑問地變得更加強大，並為許多企業開拓了前所未見的新可能性。無論企業是在雲端執行AI，還是搭建自身內部的解決方案，企業都應該為未來急遽增加的運算需求做好準備。隨著AI不斷的發展，AI將需要一個基礎來支援不同運算平台上的AI模型設計、開發和部署等多種面向。
要真正地從AI中獲取好處，取決於企業投資在AI所需運算能力的努力，並以此獲得絕佳AI優勢。在企業為AI做好準備的同時，異質運算環境和開放式生態系將扮演關鍵因素，能夠最大化目前的投資效益，未來亦可依照運算需求逐步擴展。
(本文作者為英特爾網路暨邊緣運算事業群平台應用執行總監)