訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
OECD「人工智慧建議」相關資訊
獲取產業訊息零時差!立即訂閱電電公會電子報。

OECD數位經濟政策委員會(CDEP)於2019年2月提出人工智慧建議(Recommendation of the Council on Artificial Intelligence),同年5月22日獲OECD部長理事會採認,成為全球首份AI政策建議,並獲46國遵循,其主要文本「對可信賴AI進行負責任管理的原則」「發展可信賴AI的國家政策及國際合作」等節,另獲G20納入2019年7月貿易及數位部長宣言。該建議雖不具法律約束力,然對各遵循國AI政策政策發展,具重要指引功效。

本建議分為前言、定義、人工智慧原則、人工智慧政策及合作、指示CDEP後續事項等5部分:

前言:

AI具有推動社會及經濟部門轉型的廣泛性可能,及增進福祉,促進永續發展,提升創新及生產力的潛力,然也可能造成勞動市場不公平,並對民主、人權隱私、資料保護、數位安全造成影響。鑒此,「信任」是AI獲得廣泛應用的關鍵,有必要藉公眾討論釐清AI的好處及其潛在風險。在AI高速發展及應用下,對所有AI利益關係者而言,建立一穩定的政策環境,鼓勵以人為本方式發展可信賴的AI,強化研究及驅動創新有其必要性。

定義:

AI系統(AI system):以機器為基礎的系統,可做出足以影響現實或虛擬環境的預測、建議或決定,以達成人為定義的一系列目的。

AI系統生命週期(AI system lifecycle):(1)設計、資料及演算模型階段,為倚賴相關背景資料之一系列資料收集整理及模型設計;(2)驗證及有效性階段;(3)佈署階段;(4)使用及監測階段。上述流程通常會相互疊代,而非線性。一AI系統可於使用及監測階段的任一時點被放棄使用。

AI知識(AI Knowledge):理解及參與AI系統生命週期所需的技能及資源,如資料、程式碼、演算法、模型、研究、知識(Know-how)、訓練計畫、管理方式、程序及最佳行為等。

AI行為人(AI actors):於AI系統生命週期中發展或操作AI的組織或個人。

利益關係人(Stakeholders):直接或間接與AI系統相關或受其影響的組織或個人,亦包括AI行為人。

對可信賴AI進行負責任管理的原則:

建議OECD會員及遵循本建議的非會員推廣及實施下列原則,呼籲所有AI行為人秉其角色推廣及實施下列原則,強調下列各項原則彼此互補,應一體視之:

包容性成長、永續發展及福祉:利益關係人應主動對可信賴AI進行負責任管理,以達到對全人類及全球有利的結果,如提升人類能力、加強創意、提升弱勢族群、降低社經、性別等不平等、保護自然環境等。

以人為本的價值及平等:

AI行為人應於全部的AI系統生命週期中尊重法治、人權及民主價值,其中包含自由、尊嚴及自主權、隱私及資料保護、不歧視及平等、多樣性、公平性、社會正義及國際性認可的勞工權益。

為達成上述目的,AI行為人應設立機制及防衛措施,例如符合設計背景及最新技術的人類(最終)決策權。

透明度及可解釋性:AI行為人應致力於透明度及負責任地揭露AI系統,提供與其設計背景及最新技術相符的具體資訊,以用於:

促進大眾對AI系統的瞭解;

使利益關係人注意到自身與AI的互動情形,包括於工作場所;

使受到AI影響的人瞭解其結果;

使受到AI負面影響的人可利用AI做出預測、推薦或決定的邏輯設定等直接明瞭的資訊,挑戰AI系統做出的結果。

韌性、安全及無害性:

AI系統於其生命週期中應具備韌性、安全及無害性,在當下及未來正常使用、誤用、或其他不利條件下均可適洽運作,不構成安全風險。

鑒此,AI行為人應確保AI生命週期中的資料、運作模式及決策模式依其設計背景及最新技術具有可追溯性,可對AI系統的決策及回應進行分析。

AI行為人應秉其角色、背景及行動能力,對AI系統生命週期各個階段進行持續、系統性的危機管理,以處理隱私、數位安全、無害及偏差等與AI系統相關的風險。

可究責性:AI行為人應視其角色、背景及所接觸之最新技術,對其AI系統的運作,及尊重上述原則與否負責。

發展可信賴AI的國家政策及國際合作:

建議遵循國實施下列政策及國際合作,並應側重中小企業:

投資AI研究發展:

政府應考慮進行長期公共投資,鼓勵私部門投資AI研究發展,以促進對可信賴AI的創新,無論於技術層面或於AI相關的社會、法律、道德意函或政策層面。

政府應考慮進行長期公共投資,鼓勵私部門投資具代表性、尊重隱私及資料保護的開放性資料庫,以支持AI研發環境,消除不恰當之偏差,強化可相容性及標準化。

加速建立AI數位生態系:政府應為可信賴的AI促進發展及普及生態系。該生態系應包括數位科技、數位基礎建設及知識分享機制。鑒此,政府應推廣資料信託等機制,支持安全、公平、合法及合乎道德的資料分享。

打造AI政策環境:

政府應推廣一可使AI系統迅速自研發轉型至布署及營運階段的政策環境,並建立可試驗AI系統及供其擴大規模的可控實驗環境。

政府應就其針對AI系統創新及競爭的政策、規範及評估機制進行定期檢視與調整。

人類能力建構及勞動市場轉型:

政府應與利益關係人密切合作,因應工作及社會轉型,使民眾具備必要技能,可有效應用各項AI系統並與之互動。

政府應透過社會對話等方式,確保勞工於布署AI後可利用職業訓練計畫、就業轉換支持及協獲得職場新機會等,進行合理的轉型。

政府應與利益關係人密切合作,推廣於工作場所負責任地運用AI,如強化勞工安全、提升工作品質,促進企業家精神及生產力,並確保公平分享AI的好處。

可信賴AI的國際合作:

包括發展中國家在內的政府及利益關係人應積極就促進本原則合作,推展對可信賴AI進行負責任管理。

政府應於OECD及其他全球及區域性場域合作,加速分享AI知識,並鼓勵其他國際性,跨產業及開放性的利害關係人倡議,以匯集長期性的AI專業。

政府應就具互相操作性及可信賴的AI,發展具有多重利害關係人、以共識為主的全球性技術標準。

政府應就AI研究、發展及布署情況,積極發展並使用一可供各國比較之衡量基準,並收集以證據為基礎之資訊,以評估上述原則執行進展。

指示CDEP辦理事項:

於本建議及其他國際場合討論進展之上,持續其就人工智慧的研究工作,並發展一以證據為基礎的AI政策衡量框架。

就本建議之實施撰擬一指引,並於2019年12月前向部長理事會報告進展。

成立AI政策及活動資訊交換論壇,促進多方跨領域對話,增進對AI的信任及應用。

諮詢OECD其他相關委員會,監督本建議執行情形情形,並於採認後5年內向部長理事會報告。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。