隨著演算持續進步、晶片效能攀升下，AI技術已廣泛應用於眾多領域之中，實踐為人類創造幸福的目的。所以在Gartner公布的「Gartner 2024年十大戰略技術趨勢」中，即有三點與AI有關，分別是平民化的生成式AI（Democratized Generative AI）、AI信任、風險和安全管理（AI Trust、Risk and Security ）、AI增強型開發（AI-Augmented Development）等。
過往企業推動AI專案過程之際，都是在強大算力的AI平台中，運用大量資料訓練合適AI模型後，進而運用在特定領域之中，如智慧製造、智慧醫療等。由於生成式AI在對話、文字、影像、音樂等領域，展現出無所不能的能力，也促使企業思考將完成模型訓練的生成式AI，部署到生產環境之中，以對話形式將員工與知識相連接，達到提升整體生產力的目的，可望帶來AI技術全民化。Gartner預測超過80%企業將在生產環境中部署支援生成式AI的應用，將帶動AI PC、AI Server、AI 手機的浪潮。
英業達資深副總經理暨電電公會顧問陳逸萍指出，隨著2023年底Intel、AMD陸續推出內建NPU（Neural-network Processing Unit，神經網路處理器）模組的處理器後，在甫落幕的2024 CES大會上，已可看到華碩、宏碁、技嘉等品牌業者，推出多款AI PC，堪稱是AI PC元年。至於三星電子也看準AI平民化的趨勢，推出全球首款支援生成式AI技術的AI手機「Galaxy S24」，訴求讓消費者可在手機上使用ChatGPT等服務。隨著AI PC、AI Server成為主流，有助於台灣品牌業者擺脫過往削價競爭的困境，為台灣產業發展注入新動能，再度穩固在全球市場的領導地位。
半導體邁向先進製程 AI 技術得以實現被譽為是驅動21世紀經濟發展重要動能的AI，並非是近幾年才出現的新技術，早從1950年代即有科學家投入相關研究，期盼為人類發展創造更便利的生活。只是當時受限於電腦運算能力有限，當時僅能於處理或證明簡單的數學成果，難以應用於實際場域中。隨著電腦運算能力逐漸攀升，1980年代科學家開始投入「機器學習」（Machine Learning）技術研發，期盼從大量資料中找出規則，儘管當時也催生出專家系統，不過最終並沒有真正商業化。
2010年科學家投入以人工神經網路為架構的演算法──深度學習（deep learning）技術研發，受惠於半導體製程邁向先進製程，帶動晶片運算效能大幅攀升，最終在2016年誕生打敗世界圍棋好手的AlphaGo，讓人類感受到AI不再是科幻電影中的情節，而是能被應用於日常生活中的技術，已開啟AI技術廣泛被應用不同領域的時代。 而2022年底問世的ChatGPT，在各領域展現出無所不能的強大能力，也讓生成式AI成為推動AI 2.0革命的重要技術。
陳逸萍指出，生成式AI是由資料、算力、算法等三大基石所組成，先由資料和算力構成底層基礎架構後，再透過加入深度學習演算法的方式，建構出生成式AI模型。相較於傳統AI技術，生成式AI是採用大模型語言（large language model，LLM）結合大量資料訓練， 以GPT-3為例，模型參數高達1,750億個，需使用上萬台GPU才能完成訓練，後續模型推論亦需使用數以萬計的GPU維持營運。正因如此，市場對AI晶片、AI伺服器非常強烈，也為台灣產業再度注入一股活水。
生成式AI 平民化
AI PC、AI 手機時代來臨
因應市場對AI Server、AI晶片的強烈需求，加上平民化生成式AI時代來臨，帶動愈來愈多業者投入專為端點裝置的 NPU模組研發工作。因為，若要在端點裝置上執行生成式AI模型，處理器必須搭載NPU模組，才可算是AI PC、AI手機，透過強大算力、低延遲、加強隱私保護等，滿足不同場域的應用需求。
「生成式AI技術快速普及後，也改變全球晶片發展趨勢與生態系，除NVIDIA、AMD、Intel等投入高階GPU晶片研發之外，高通、蘋果、Intel、AMD等，也投入融合NPU模組的AI PC晶片開發。」陳逸萍解釋：「在AI 手機晶片部分，則是以聯發科、高通等為主。
除此之外，不同領域晶片業者也開始嘗試在自家晶片中加入NPU，以便能將生成式AI技術應用於專屬產業之中，如影像辨識、瑕疵檢測等等。」
英業達推出NPU 搶進生成式AI 領域
在接軌工業4.0的浪潮下，2015年英業達推動數位轉型專案專案，希望透過自動化、物聯網、大數據與人工智慧等技術，大步邁向智慧製造。鑑於市面上沒有合適相關AI解決方案，2018年英業達成立AI研發中心，投入相關技術於解決方案的研發工作。該中心除順利協助英業達啟動轉型計畫，也在2020年底爭取經濟部AI on Chip計畫，投入AI晶片-VectorMesh嵌入式神經網路處理器，研發，達到輕鬆提升特定領域應用服務效能的目的。
VectorMesh晶片具備低功耗、高效能、高彈性架構等三大優勢，相同製程條件、運算能力下，該邏輯閘數（Gate count）比市面上產品小四倍，使終端產品實現更低成本與功耗的目標。該晶片依照終端應用所需的算力大小，分為「MinimaTM」、「ParvaTM」、「MagnaTM」三大系列，搭配英業達的一站式客製化設計服務，可大幅縮短產品進入市場的時間。
陳逸萍指出，並非IC設計公司都有足夠人力、時間與成本，可設計合適的N P U模組，我們投入VectorMesh晶片開發目的，是希望透過IP授權方式，協助夥伴將此NPU與自有晶片整合，讓客戶可將寶貴研發人力用於自身產品的改進與強化。此產品剛推出不久，即獲得兩大IC設計大廠別選用，2024年將會吸引更多夥伴採用。
發展AI 產業 算力、監管齊下
儘管AI技術為人力生活帶來極大的便利，但背後也衍生出信任、風險和安全管理等議題，若欠缺一套合理的管理方案，難保不會產生出難以控制的多重負面效應。因此，現今各國政府在積極推動AI產業之外，也注意到相關監管問題，如2023年底歐盟執委會通過歐盟人工智慧法案「AI Act」，將針對高風險AI系統與通用AI模型祭出管理規定，預定兩年後開始生效。此外，新加坡也公布「國家人工智慧戰略 NAIS 2.0」（Singapore National AI Strategy），預計透過三大系統、十個驅動因素、15項行動之間搭配，達到提升國家競爭力、建立一個可信任的AI環境。
身兼電電公會顧問的陳逸萍表示，生成式AI背後商機驚人，特別是AI PC、AI Server等議題崛起，對台灣資通訊產業更是不可忽略的重要趨勢。電電公會將會扮演串連產業、政府單位、研究單位等重要橋樑，透過整合會員之間的力量，以及研究單位的創新成果，助台灣產業在全球市場上占有一席之地。至於AI監理部分，建議主管機關在制定AI基本法時，可參考新加坡、歐盟、美國等作法，結合台灣的特殊習慣等，讓民眾能在安全無虞的環境下，享受AI帶來的便利性。
另外值得一提的是，非常關注台灣AI產業發展的電電公會理事長李詩欽，也同時擔任台灣雲端物聯網產業協會之會策顧問，長期透過舉辦AI產學研媒合會，協助會員企業掌握產業AI 化發展方向，以及鏈結產、官、學、研界等AI領域專家，分享產業趨勢、進行技術交流 ，全力厚植台灣在全球AI產業的競爭力。
2023年行政院科技顧問會議中將 「半導體 × AI」列為國家未來十年科技重點布局之一，由於算力是支撐AI發展的重要三大基石之一，陳逸萍建議在現有國網中心的台灣杉主機之外，主管機關也應該加速在AI平台投資，建立能滿足國家專案與民間需求的AI算力中心，才能讓台灣在AI浪潮中持續保有領先地位。