訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
AI武器助長種族滅絕戰?MIT教授:遲早的事
數位時代數位書選
獲取產業訊息零時差!立即訂閱電電公會電子報。

人工智慧武器不同於核武器的高昂造價,也沒有原物料難以取得的問題,因此所有擁兵自重的勢力一定會看中其廉價的特性大量生產。遲早會成為獨裁者、欲遂行種族滅絕的軍閥等用來為惡的工具。

本文摘自《Life 3.0:人工智慧時代,人類的蛻變與重生》,天下文化

 

打從史前時代開始,人類就不斷遭受饑荒、疾病和戰亂之苦。人工智慧可以幫助人類解決饑荒和疾病的問題,那戰亂呢?有些人認為,擔心情勢失控的核武國家反而不敢輕啟戰端,要是讓所有國家都擁有更具威脅性的人工智慧武器,是不是就有希望可以永久消除戰爭?如果這種說法無法說服你,你還是認為人類無法避免戰爭,要不要考慮使用人工智慧讓未來的戰爭比較人道一點?

殺手機器人比人類士兵更平穩、理性

如果戰爭的過程只是機器打機器,就不會有士兵或是平民百姓死於戰亂了,這還不提未來搭載人工智慧的無人機和其他自動化武器系統,也就是反對者口中的「殺手機器人」,有可能比人類的士兵更平穩、更理性:配備超人般感測器的它們不怕被殺害,所以可能保持絕對冷靜,就算處在戰火最熾烈的地方也能執行縝密的運算,不會因此誤傷無辜。

可是,如果自動化系統中毒了、搞不清楚狀況或無法依照我們的期望運作時,那又如何?
按照世界各國防衛事務官員的說法,現在所有檯面上的武器都屬於「人為查核點」的系統,只有地雷這類低階、守株待兔式的陷阱是例外。但是目前的發展方向的確朝真正的全自動武器前進,放手讓武器系統自行挑選目標加以攻擊。把人為因素排除、增加武器運作速度,一直以來都是值得努力的軍事目標:想像有兩架無人機在空中纏鬥,一架可以全自動做出即時反應,另一架則是由半個地球以外的戰鬥人員進行遙控,所有反應都相對慢了好幾拍,你認為哪一架無人機會是贏家?

但是不得不提,要不是上天特別眷顧,好幾次在千鈞一髮之際都幸好有「人為查核點」發揮作用,我們早就生靈塗炭了。

至此,相信你已經很清楚,我個人對自動化武器系統嚴重關切的立場,但是你可能還不知道,我真正在意的事情是人工智慧武器引發軍備競賽後的結局。2015年七月,我用以下的公開信表達我的擔憂:

繼火藥、核武後,第三波軍武革命

自動化武器 — 致人工智慧與機器人研究人員的公開信:

自動化武器不需要人為操作就能自行挑選目標進行作戰。舉例來說,可以依據某些預設條件找出目標對象,並加以殲滅的武裝攻擊無人機就是其中一種,但是巡弋飛彈或是遙控導引的無人機,這些全權由人類設定目標的武器就不算在內。 不管是否符合法令規定,人工智慧的發展已經使自動化武器的部署可以在幾年內,而不是數十年後變得可能,造成的影響不可謂之不大:自動化武器被視為是繼火藥和核武器後的第三波軍武革命。

支持或反對自動化武器的論述所在多有,像是用機器取代人類士兵這件事,就好的一面來講可以減少傷亡,就壞的一面來講,卻也同時降低了發動戰爭的門檻。人類如今要面對的問題,是要不要踏出進入全球人工智慧軍備競賽的這一步,抑或是在跡象顯露的此刻加以杜絕。如果有任何軍事強權跨出發展人工智慧武器的這一步,則接下來的全球軍備競賽就注定會無法避免,而這項科技的發展軌跡也顯而易見:自動化武器將成為下個世代的AK-47。

廉價、大量製造,遲早被恐怖分子濫用

人工智慧武器不同於核武器的高昂造價,也沒有原物料難以取得的問題,因此所有擁兵自重的勢力一定會看中其廉價的特性大量生產,到最後變得無所不在。之後,經由黑市交易流入恐怖份子手中只是時間的問題,也遲早會成為想要嚴加控制民眾的獨裁者,和想要遂行種族滅絕的軍閥等用來為惡的工具。自動化武器當然也是執行暗殺、顛覆國家、鎮壓百姓和種族屠殺的理想工具。因此我們絕對有理由相信,人工智慧的軍備競賽無論如何不會給人類帶來好處。我們有很多利用人工智慧減少戰場傷亡,特別是設法保護無辜民眾的方式,但是把人工智慧發展成新穎的殺人工具,絕對不會是選項之一。

如同大多數化學家和生物學家根本無意製造生化武器一樣,大多數人工智慧的研究人員並不想把人工智慧當成武器,也不希望有任何人以這種方式玷汙了自己的研究領域,而讓社會大眾抵制人工智慧,讓人工智慧促進社會福祉的理想胎死腹中。事實上,很多化學家和生物學家都普遍支持能夠有效禁用生化武器的國際協定,而物理學家也一樣會支持禁止把外太空當成核武器的戰場,或禁用致盲雷射武器的條約。

為了不讓我們的關切遭忽視,最後淪為反戰份子的喃喃自語,我希望盡可能讓更多硬底子的人工智慧專家和機器人專家共同署名。

網路戰:不用自己製造武器,就能攻擊敵方

人工智慧在軍事運用上的另一項重大功能,是不用自己製造武器就能攻擊敵方,也就是所謂的網路戰 ,而超級工廠病毒(Stuxnet worm)的威力已經替將來網路戰的形式拉開序幕。一般認為超級工廠病毒是美國和以色列政府共同聯手的傑作,讓伊朗核武計畫中濃縮原料的高速離心器遭到感染,導致離心器分解。自動化程度愈高的社會,遭人工智慧攻擊的影響層面愈大,在網路戰中的損失就愈慘重;如果你有辦法駭入敵軍的無人駕駛車、自動導航機、核反應爐、工業機器人、通訊系統、金融體系或輸配電網,你就能有效重擊對方的經濟,癱瘓對方的防禦能力,如果能順便駭入對方的武器系統,這場戰爭就能宣告勝負底定了。

無論如何,優先鞏固好對抗網路戰的防禦工事,會是短期內發展人工智慧最重要的目標—否則的話,人類所有了不起的創新技術,都會淪為攻擊人類的武器!

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。