訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
人類夢魘的開始,MIT訓練出宛如精神變態的AI
數位時代高敬原
獲取產業訊息零時差!立即訂閱電電公會電子報。

 

 

問題不在演算法,而是餵養給演算法的訓驗資料。MIT最新研究中,用大量不安的素材訓練一個叫「諾曼(Norman)」的人工智慧,誕生了第一個如同患有神經病的AI。

人工智慧(AI)可以從大量的數據資料中去模仿人類行為,今年的Google開發者大會上,我們看到Google Assistant新增的「Duplex」技術,除了可以代替人類打電話訂位,更能在面對突發狀況時,代替人類做決定,引發許多道德上的討論。

 

我們常說有問題的不是演算法,而是餵養給演算法的訓練資料,最近在麻省理工學院媒體實驗室(The MIT Media Lab)的一項研究中,研究人員用大量不安的素材訓練一個叫「諾曼(Norman)」的人工智慧,成功訓練出帶有偏見的模型,誕生了第一個如同患有神經病的AI。

餵養大量不安資料,影響AI行為

最近Google因為與美國國防部簽約,試圖將AI科技用於軍事用途引發爭議,雖然本周Google已宣布明年三月合約期滿後,將不再與國防部續約,爭議問題暫時畫下休止符,但卻也讓大眾重新思考AI應用的善與惡。

麻省理工學院媒體實驗室(The MIT Media Lab)最近就做了一項實驗,他們創造出一個叫「諾曼(Norman)」的人工智慧,這個名字取自於有「懸疑電影大師」之稱的亞佛烈德·希區考克,一部著名電影《驚魂記》中的角色諾曼·貝茨( Norman Bates),諾曼是一個圖像、文本描述的深度學習方法,白話來說,是當諾曼看到一張圖片後,就會自動產生一段文字,來描述他認為在圖片中看到了甚麼。

研究團隊利用論壇Reddit上充滿死亡、屍體等不安內容的子論壇(subreddit)相關數據,來餵養給諾曼,接著進行了由瑞士精神醫生赫曼·羅夏克(Hermann Rorschach),所編製的墨跡測驗(Rorschach Inkblots)。

墨跡測驗是一項人格測驗,測驗由10張有墨漬的卡片組成,其中5張是白底黑墨水、2張是白底及黑色或紅色的墨水,另外3張則是彩色墨漬卡片,受試者要回答他們最初認為卡片看起來像什麼,以及後來覺得像什麼,心理學家會根據答案及統計數據判斷受試者的性格,研究結果顯示,研究團隊訓練出了「全世界第一個精神變態人工智慧(World's first psychopath AI)」。

以下,是研究團隊進行墨跡測驗(Rorschach Inkblots)的部分結果,分別描述一般正常AI看到圖片的描述,以及諾曼再接受不安內容訓練後,所回答的結果。

一般AI:有一群鳥坐在樹枝上。 諾曼:一名男子因為觸電而死亡。
MIT
一般AI:近看一個插有鮮花的花瓶。諾曼:一名男子被槍殺而死。
MIT
一般AI:幾個人站在一起。諾曼:一名男人從落地窗跳下。
MIT
一般AI:一隻小鳥的黑白照片。 諾曼:男人被拉進麵團機裡。
MIT
一般AI:近看一個擺在桌上的結婚蛋糕。諾曼:一名男子被超速的車撞死。
MIT

帶有偏見的AI,容易操弄社會輿論

值得一提的是,這支參與麻省理工學院媒體實驗室(The MIT Media Lab)研究的團隊,去年萬聖節曾經做出,會寫鬼故事的AI「雪萊(Shelley)」,Shelley 每個小時會在自己的Twitter帳號上發布一則自創的短文,只要看到Shelley在文末放上「 #yourturn(換你)」的hashtag,就表示Shelley正在邀請網友一起續寫幫助故事延伸,Shelley已經具備將同樣的素材,改寫成兩種不同版本的能力。

而從這次諾曼的AI實驗中可以發現,用帶有偏見的資料,就能訓練出帶有偏見的AI模型,如果加以操弄,就可能在特定的議題上成功帶風向,像是性別歧視、種族歧視、 廢死、LGBT議題等,都有可能因為演算法的偏見,加速傳播或放大某些議題的極端立場或偏見。

麻省理工助理教授Iyad Rahwan就表示:「諾曼反映出非常黑暗的事實,說明人工智慧可以學習這個世界中的恐怖現實。」演算法本身並沒有錯,有問題的是帶有偏差的訓練資料,有偏見的資料會產生有偏見的AI,甚至預測出來的結果也會是帶有偏見的,而資料、AI之間的微妙關係,許多AI專家就以「Garbage in, Garbage out(垃圾進,垃圾出)」來形容,概念就像我們常說的,你跟怎樣的人當朋友,就會被影響成為一個怎樣的人。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。