人工智慧(AI)的定義
根據瑞士聯邦委員會2022年提出的「人工智慧與國際規範」報告中指出,人工智慧(Artificial Intelligence,AI)指透過電腦從事通常需要人類或生物智慧(Biological Intelligence)進行的工作,例如:影像辨識、語音辨識、翻譯或具規則的遊戲。人工智慧系統(AI system)係以機器為基礎的系統,已達成人類設定的目標,並可預測結果、作建議或決定且影響實體或感知;人工智慧系統可被設計成有不同程度的自主性。機器學習(Machine Learning,ML)為人工智慧的一個子集(Subset),它為電腦提供學習能力。機器學習探索算法的構建,利用電腦進行數據分析,使它們能夠學習、適應及改進。由此產生的統計模型有助於預測和數據分類,幫助決策。ML涉及歸納推理,為人工智慧最重要的子集。
人工智慧在瑞士的應用
Pour Demain協會提出之「人工智慧在瑞士關鍵基礎建設中的角色」研究報告中指出,在瑞士,人工智慧經常被用於醫學影像分析,尤其是深度學習模型中(Deep Learning Model)。利用大數據來學習複雜模式的人工神經系統及快速分析和解釋醫學影像,例如X光、電腦斷層(CT)和磁振造影(MRI)。
在放射科,人工智慧可選出100張最重要的圖片或直接指出有可能是癌症的部位,放射科醫師不需要自行檢視一千張圖片,節省許多時間;在皮膚科,人工智慧可透過直接對痣拍照,將其區分健康或是生病,而此技術也適用於腸胃道疾病;此外,聲音學的人工智慧,可透過病人咳嗽聲檢測肺部疾病;在外科手術方面,人工智慧可以偵測到外科醫生透過手術機器人操作手術時的顫抖。人工智慧也可以幫助減緩瑞士急診室長期超出負荷的問題,有效進行分流跟建議哪些病患有接受治療的急迫性,分擔醫護人員過量的工作壓力。
未來人工智慧可更精準對癌症做出判斷或更精確控制手術機器人減少手術中的錯誤。到目前為止,人工智慧發揮作用有限,但未來建立更健全的數據庫後將得到改善。人工智慧也將運用在與病人溝通,聊天機器人Chat-GPT可進行有同情心的溝通(反之,處於壓力下的醫生則不總是如此),並認為瑞士醫院未來幾年內將為此增加人工智慧預算。
根據每日廣訊報(Tages Anzeiger)2023年10月27日報導,從2023年4月至6月期間,瑞士航空(SWISS)嘗試藉由人工智慧計算旅客數量,且未來瑞航乘客將在登機時被拍攝記錄下來。目前,瑞士航空完成三個月的測試,此測試利用人工智慧及攝像鏡頭進行乘客辨識,並能可靠計算出乘客數量,但在區分乘客和工作人員方面仍有改善空間。
瑞士航空計畫在中期內,由AI自動計算乘客人數取代人工計算,並正在尋找IT合作夥伴以便實施此計畫。瑞士聯邦統計局(BFS)在2021年夏天設立人工智慧能力網(CNAI),提供行政、科學和經濟等與人工智慧相關產業共同合作的一個平台。
人工智慧發展面臨的質疑
案例一:人工智慧診斷
瑞士FMH醫學協會2021年一項問卷調查中指出,94%的受訪醫生拒絕接受完全由人工智慧做出的診斷。此外,人工智慧無法解釋結論的來源,也是目前面臨的問題。衛生機構的專家也擔心,人工智慧只能依賴當下掌握的數據,會因某些族群的資料不夠齊全,導致錯誤的診斷結果。
案例二:教學時使用人工智慧
根據瑞士媒體SWI報導,由於許多學生和教師在課堂上使用人工智慧工具,導致個人隱私及個人敏感資訊外洩風險逐漸加大,瑞士教師協會呼籲聯邦政府及各邦應該為人工智慧及個人敏感資訊制訂管理規範。因教師須接觸敏感的學生資訊,例如需記錄學生學習情況,其中包含學生是否有學習障礙及學生私人生活訊息。瑞士教師協會成員Mr. Schwendimann建議,未來需對教師進行培訓,以便處理敏感資訊和避免個人訊息外露,瑞士聯邦政府及各邦政府有必要擬定適用於全瑞士教師的人工智慧處理指南。因人工智慧還有許多未知領域,專業機構Educa(受瑞士聯邦政府與各邦委託)建議當涉及人工智慧工具或應用程式時需保持謹慎。
案例三:人工智慧比人類更善於欺騙
根據瑞士媒體(SWI)根據蘇黎世大學一項研究表示,AI語言應用工具,能模擬出具有高度說服力的虛假訊息,並危害公共健康及民主運作中最重要的訊息傳遞正直誠信性。
此研究包含697名受試者,檢測由人類編寫及由AI(OpenAI GPT-3)編撰的文章之間的差異,主題涵蓋氣候變化、疫苗安全性、新冠疫情、地平說及使用順勢療法治療癌症等話題。受測者認為GPT-3撰寫的內容更準確無誤且更容易被理解,但事實並非如此。
研究報告的作者人之一Mr. Biller-Andorno表示,為了確保公共健康及在數位時代保持一個健全、穩固且值得信賴的資訊生態系統(Information ecosystem),清楚認識AI模擬出的虛假資訊所產生之風險,具有重大意義。
案例四:人工智慧是電力巨大消耗者
根據瑞士德語廣播電視SRF報導,人工智慧旨在幫助人類能更精確的計算及提高效率,並處理單調重複的工作。但在訓練和操作人工智慧電腦系統時,因電腦系統運算,需要大量能量。若運算越複雜,伺服器及電腦需要的電功率將會高,耗電量越大。
一名荷蘭科學家計算出,運作人工智慧應用軟體ChatGPT需消耗如同四萬個家庭所需電力。專家確信,為了運作人工智慧系統,全球耗電量將迅速成長。Hasso Plattner Institute的Dr. Herbrich表示,目前全球所有電腦(包括資料中心)耗電量約佔總發電量的8%,估計未來幾年耗電量可能增加到總發電量的30%。
瑞士政府對人工智慧的規範
瑞士聯邦委員會於2020年發布聯邦政府人工智慧指引(Guidelines on Artifical Intelligence for the Confederation),有七大綱領:
1. 以人為本(Putting people first):保護基本人權、隱私及個資等。
2. AI發展與運用有關的法規條件(Regulatory conditions for the development and application of AI):聯邦委員會需持續創造AI發展良好的法規條件。
3. 透明化、可追溯與可詮釋(Transparency, traceability and explainability):AI的數據政策須透明化及具可追溯與可詮釋性。
4. 可信度(Accountability):違反相關AI法律須有明確的責任劃分,不可歸責於機器。
5. 安全性(Safety):AI系統設計須對人類與環境有正面影響。
6. 主動參與塑造AI治理(Actively shape AI governance):聯邦政府須主動參與有關聯合國(UN)、經濟合作暨發展組織(OECD)、聯合國教科文組織(UNESCO)、國際電信聯盟(ITU)、歐洲和平夥伴關係計畫(Partnership for Peace,PfP)有關AI國際規範的塑造。
7. 納入國內及國際利益關係人(Involve all relevant national and international stakeholders):納入私部門、公民團體、科技專家參與制定規範。
瑞士政府及各個相關產業對於如何監管人工智慧提出之建議
- 中國、美國、歐洲都提出對監管AI的建議,而瑞士仍在觀望:根據2023年6月12日瑞士德語廣播(SRF)報導指出,今(2023)年四月中旬中國當局提出一項規定草案,若AI內容的生成導致暴力、歧視或違背社會主義基本價值觀,將處以罰款或刑罰;去(2022)年美國也透過「人工智慧權利法案(AI Bill of Rights)」展示如何為AI使用提供法律框架;此外歐盟自2018年持續在制定「人工智慧法案(AI-Act)」,此法案最快能在2025年生效。許多專家認為,根據現有的法規框架(例如版權或資料保護法)發展新的法規比建立新的法律規範更具可行性。
儘管瑞士政府及相關當局尚未就如何監管人工智慧提出具體建議,但民間與企業已經採取相應措施。2022年2月民間社會組織Digitale Gesellschaft便公開其立場,呼籲為AI系統制定規範;資通訊科技(ICT)及網路產業協會SWICO也在2023年4月發布AI注意聲明,呼籲數位公司自願披露其如何應用AI。
瑞士聯邦通信局(Bakom)副局長暨歐洲人工智慧委員會(CAI)負責人Thomas Schneider對於瑞士如何監管AI處於觀望階段,持正面態度,且其為了找到全球性的解決方案,正在談判第一個具有法力約束力的全球AI協議。
- 根據瑞士媒體(SWI)2023年6月23日報導,人工智慧已融入日常生活中,例如社交媒體、臉部辨識、半自動駕駛等,但其存在使用的風險。瑞士Algorithm Watch協會的負責人Angela Müller表示,人工智慧已經威脅到人權、法治和民主,對人工智慧的運用進行監管是急迫的。
瑞士聯邦通信局(Bakom)副局長暨歐洲人工智慧委員會(CAI)負責人Thomas Schneider認同此觀點,且必須在可行的解決方案和快速的解決方案之間做選擇,因此瑞士目前還處於觀望狀態。兩位皆認為現行已存在人工智慧相關之法條,未來應從現有法條中延伸及填補缺漏之處,以因應人工智慧帶來的挑戰。
歐盟2023年6月14日在歐洲會議通過人工智慧法案的第一份草案,針對高危險的人工智慧系統,例如臉部辨識及語音輔助性兒童玩具;經濟合作暨發展組織(OECD)成員國還未頒出針對人工智慧的法律規範。瑞士非歐盟國家,但作為歐洲委員會一員,並且有來自美國、加拿大、墨西哥、日本及以色列等觀察員國家,歐洲委員會之公約將產生強大的影響力,瑞士行事也會依照公約。
Ms. Müller認為,為了避免各國對人工智慧有不同監管條例,歐盟正在制定法律來防止此情形,要求歐盟制定的規範也適用於在歐盟以外的公司,若想在歐盟境內銷售產品就必須遵循其規定,瑞士將受到影響。
- 根據瑞士銀行協會(Swiss Banking Association,SBA)公告,AI為金融機構數位轉型最有前景的技術之一,但如何獲取及使用數據仍受到大眾質疑。SBA正深入評估如何擴大競爭潛力同時維護客戶信任,並對制定AI領域的責任歸屬法規做出寶貴貢獻。
在金融產業,人工智慧的應用在優化業務流程及策略規劃,並有助於改善客戶服務、提升利潤、降低風險和成本,此外,開放式金融(open finance)的發展也驅使更頻繁的AI應用,而人工智慧也成為打擊金融犯罪不可或缺的工具。
聯邦委員會在一份報告中指出,在應用AI時將會面臨挑戰,例如:系統偏差、難以驗證的結果和自主性的決策(decision-making)。對瑞士銀行來說,解決應用人工智慧時所產生的風險和挑戰至關重要,此涉及如何規範保障基本權利、安全及責任歸屬等。
SBA正積極克服應用AI所面臨的挑戰,包括:應用AI技術時,(1)確保隱私和資料安全、(2)銀行須建立相符的能力,(3)法律及可能損害名譽的風險。
國際上關於人工智慧監管的討論非常熱烈,人工智慧高級專家組(AI HLEG)的「可信賴人工智慧倫理準則」(Ethics Guidelines for Trustworthy AI)以及歐盟委員會在2020年發布的人工智慧白皮書(the white paper on AI)都將影響未來AI的監管。
瑞士在這些討論中充當意見領袖(opinion leader)相當重要,但金融業面臨的問題需要盡快解決。同時現有的規範是金融服務業在應用AI技術時,非常有用的資源和參考準則。
- 根據新蘇黎世報2023年10月1日報導,來自瑞士聖加侖(St Gallen)羅森堡中學(Institut auf dem Rosenberg)的學生發表「羅森堡中學AI道德管理章程(The Rosenberg AI Charter)」。此中學為精英寄宿學校,創建於1898年,為瑞士最昂貴的公立學校之一,其學生來自全球50多個國家,多數為企業家後代,且在課堂內外皆已使用人工智慧一段時間,身為即將面臨AI最大衝擊的一代,學生、教師與AI相關專家(例如科技、智慧財產權及資料保護法律師Mr. Molin或Meta Marketing先驅Mr. Holste)共同編列十三項大綱,宣示如何應對人工智慧的看法,並呼籲所有與人工智慧產品相關的私人或政府機構組織應該對AI系統產生的資訊承擔明確責任,建立公正的全球性外部機構,以監督及確保人工智慧能被正確使用,此外人工智慧系統的構建者在編撰指令時,要謹慎確保其AI系統務必遵從各區域的法律和不危及個人權利的範圍內執行命令。
羅森堡中學校長Mr. Gademann希望,「羅森堡中學AI道德管理章程」能引起全球對AI的討論,並促使國際合作。
瑞士在全球AI發展中的地位
根據「瑞士貿易與投資署」(Switzerland Global Enterprise, S-GE)列出三點,顯示瑞士為AI技術中心地位:
1.瑞士有許多在AI領域全球知名的大學和研究機構,例如:蘇黎世聯邦理工學院(ETH)和洛桑聯邦理工學院(EPFL)及盧加諾人工智慧研究所(IDSIA)、馬爾蒂尼人工智慧研究所(IDIAP)及諸多邦立大學。因此全球科技巨頭(如Google、IBM及Microsoft)都將科技研究中心設立在瑞士。由於瑞士在生命科學領域的傳統實力,積極推動醫療藥品領域的AI技術開發。
2.瑞士擁有穩定的政經環境,值得信賴的政府治理制度及法律穩定性,降低企業風險。
3.瑞士擁有蓬勃的科技發展生態體系(technology ecosystem)包括:已設立的企業、新創公司、領先的研究機構、專業的人才庫及務實的監理框架,高密度的國際企業總部和非政府組織,有助於AI容易找到客戶及合作夥伴。
根據瑞士聯邦委員會AI與國際規範中指出,瑞士的AI發展強項在研發,瑞士大學及技術機構之研發能力全球領先,故瑞士應協助全球發展AI規範及標準。瑞士有很強的周邊產業如金融服務業、機械應用軟體等都能支應AI發展,且瑞士除了是許多跨國企業的投資基地外,境內也有第一個以科學預測為基礎的全球外交服務機構「日內瓦科學與外交預測專家」(The Geneva Science and Diplomacy Anticipator,GESDA),瑞士的政治中立性也有助AI發展。
資料來源:
- 人工智慧與國際規範(Artificial intelligence and international rules)
- 2023年6月1日新蘇黎世報(NZZ)
- 2023年10月27日每日廣訊報(Tages Anzeiger)
- 2023年8月22日Swissonfo.ch(SWI)
- 2023年6月29日瑞士媒體(SWI)
- 2023年10月30日瑞士德語廣播(SRF)
- 瑞士聯邦委員會人工智慧指引(Guidelines on Artifical Intelligence for the Confederation)
- 2023年6月12日瑞士德語廣播(SRF)
- 2023年6月23日瑞士媒體(SWI)
- 瑞士銀行協會(Swiss Banking Association,SBA)
- 2023年10月1日新蘇黎世報(NZZ)
- 瑞士貿易與投資署(Switzerland Global Enterprise, S-GE)