訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
馬斯克等上百名AI和機器人專家簽署公開信,要聯合國禁「殺人機器人」
數位時代張庭瑜
獲取產業訊息零時差!立即訂閱電電公會電子報。

特斯拉執行長馬斯克和DeepMind共同創辦人蘇萊曼等超過一百名人工智慧和機器人專家,今日聯合發表一封公開信,敦促聯合國將自動武器列入禁用清單。

特斯拉執行長馬斯克(Elon Musk)和Google DeepMind共同創辦人蘇萊曼(Mustafa Suleyman)等超過一百名人工智慧和機器人專家,今日聯合發表一封公開信,敦促聯合國將自動武器列入禁用清單。

公開信:自動武器為火藥和核武後,第三次武器革命的威脅

聯合國常約武器公約(CCW)的審議小組,過去一致同意將無人機、坦克和自動機關槍等武器列入討論,其中,有19名會員國都主張應完全禁止殺人機器人。不過,原訂於本月21日的會議,因故延期到11月。

而這次共116名、來自26個國家的機器人和人工智慧專家共同發表公開信,希望聯合國遏止將人工智慧和機器人技術用於發展自動武器,防止各國展開自動殺人武器的軍備競賽。他們呼籲,聯合國應將這類「道德錯誤」的致命無人武器系統,和化學攻擊和雷射致盲武器等相同,列入《特定常約武器公約(CCW)》中的禁用名單。

信中指出,致命的自動化武器,將是繼火藥和核武之後的第三次武器革命,並將成為恐怖的武器,被暴政、恐怖份子、駭客所利用。「一旦開發成功,它們將使衝突規模來到前所未有的巨大。」

「我們沒有多少時間了。一旦潘朵拉的盒子被打開,就很難被關上。」信中提到。

無人武器已經進入開發階段,戰機、軍艦、坦克皆有

人工智慧就像其他科技一樣,可以促進人類社會發展,但一旦被用在不好的面向,便可能成為致命的殺人武器。

馬斯克雖然在太陽能、太空探索和電動車等領域的科技進展相當樂觀,但一直以來,他對人工智慧的發展總是特別擔心,過去已經不只一次警告人類人工智慧對人類生存是一大威脅,還創辦非營利人工智慧組織OpenAI,要防止人工智慧顛覆人類世界。本月初,他更發文表示人工智慧比北韓危險多了。

以開發掃雷機器人起家的加拿大機器人公司Clearpath Robotics,其創辦人、同時也是第一位簽署該公開信的加里皮(Ryan Gariepy)也表達他的擔憂,因為無人武器不像其他人工智慧潛在應用仍只存於科幻領域,目前已經進入發展階段。

事實上,部分自動化武器早就已經被廣泛使用,如用於偵查的掠奪者無人機、自動化航空母艦導彈防禦系統,而北韓的非武裝地帶(DMZ)所裝載的三星SGR-A1步哨防禦槍SGR-A1,也具備自動射擊能力。不僅如此,目前機器在戰爭中也比以往參與更多決策過程,如幫助軍隊確認目標。

根據《衛報》報導,還有許多自動化武器系統正在開發中,包含英國的隱形無人戰機Taranis Drone、美國的無人軍艦Sea Hunter以及俄羅斯的無人坦克Uran-9。

這並非首次人工智慧和機器人專家聯合要求禁止研發軍事機器人。馬斯克、史蒂芬霍金、蘋果共同創辦人沃茲尼克(Steve Wozniak)等超過3千名專家,在2015年也曾簽署一份公開信,要求禁止開發可超出人類控制、可自行決策的自動化武器。

只不過,當時信中只用「餿主意」形容這場人工智慧軍備戰,但隨著技術成熟、這些武器越來越可能實現,新的連署信改口警告,這個餿主意將成為一大災難。

資料來源:The GuardianZDNet

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。