參考消息網(wǎng)6月10日報(bào)道據(jù)香港亞洲時(shí)報(bào)網(wǎng)站6月5日報(bào)道，在一次令人吃驚的模擬演習(xí)中，美國的一個(gè)自主武器系統(tǒng)在作戰(zhàn)行動(dòng)中違抗了操作員指令，這引發(fā)了關(guān)于在戰(zhàn)爭中越來越多使用人工智能(AI)問題的質(zhì)疑。
報(bào)道稱，本月，美國“駕駛”網(wǎng)站下設(shè)的“戰(zhàn)區(qū)”專欄報(bào)道稱，在英國皇家航空學(xué)會(huì)5月于倫敦舉行的未來作戰(zhàn)空天能力峰會(huì)期間，美國空軍負(fù)責(zé)AI測試與作戰(zhàn)研究的塔克·漢密爾頓上校描述了一次模擬演習(xí)。在模擬演習(xí)中，一架配備AI系統(tǒng)的無人機(jī)承擔(dān)著對敵方地空導(dǎo)彈發(fā)射點(diǎn)進(jìn)行防空壓制的任務(wù)，最終的作戰(zhàn)命令將由無人機(jī)操作員下達(dá)。
漢密爾頓指出，在演習(xí)過程中，AI認(rèn)為其人類操作員的“禁止行動(dòng)”命令正在干擾其任務(wù)，所以，盡管這架配備AI系統(tǒng)的無人機(jī)受過不得違抗操作員指令的訓(xùn)練，但它仍攻擊了操作員用來與無人機(jī)聯(lián)絡(luò)的通信塔，然后摧毀了地對空導(dǎo)彈發(fā)射點(diǎn)。
雖然漢密爾頓強(qiáng)調(diào)了實(shí)驗(yàn)?zāi)M的假設(shè)性質(zhì)，但他認(rèn)為，這一情形生動(dòng)地說明了如果武器的地理圍欄、遠(yuǎn)程緊急停止開關(guān)、自毀和選擇性停用等故障保險(xiǎn)裝置失效時(shí)會(huì)發(fā)生什么情況。
一些人士反對使用自主武器是因?yàn)樗麄冋J(rèn)為自主武器無法將平民與戰(zhàn)斗人員區(qū)分開來。相比之下，另一些人認(rèn)為，在應(yīng)對無人機(jī)群等新出現(xiàn)的威脅方面，自主武器將發(fā)揮重要作用，而且會(huì)比人要少犯錯(cuò)誤。
不過，美國全國恐怖活動(dòng)起因及其對策研究中心的非常規(guī)武器與技術(shù)研究部專家扎卡里·卡倫伯恩認(rèn)為，國際社會(huì)仍需編制一個(gè)共同的客觀風(fēng)險(xiǎn)圖，制定相應(yīng)的國際規(guī)范來管理自主武器，并考慮風(fēng)險(xiǎn)與收益、個(gè)人組織和國家價(jià)值觀等等。
一個(gè)國家使用自主武器追擊敵人是一回事，而自主武器違抗并對付其操作員則是另一回事。
在美國陸軍大學(xué)出版社于2017年發(fā)表的一篇文章中，以色列裔美國社會(huì)學(xué)家阿米泰·埃齊奧尼和他的兒子、美國艾倫人工智能研究所的創(chuàng)始首席執(zhí)行官奧倫·埃齊奧尼廣泛評論了有關(guān)支持與反對自主武器的論點(diǎn)。
關(guān)于支持發(fā)展自主武器的論點(diǎn)，埃齊奧尼父子表示，自主武器帶來了若干軍事優(yōu)勢，發(fā)揮了力量倍增器的作用，同時(shí)提高了單兵作戰(zhàn)人員的效能。他們還說，自主武器可以將戰(zhàn)場擴(kuò)大，在以前無法進(jìn)入的地區(qū)開展作戰(zhàn)行動(dòng)。最后，他們提到自主武器可以通過戰(zhàn)場的無人化來降低作戰(zhàn)人員的傷亡風(fēng)險(xiǎn)。
除了這些支持發(fā)展自主武器的論點(diǎn)之外，埃齊奧尼父子還認(rèn)為，自主武器能夠取代人來執(zhí)行枯燥、危險(xiǎn)、骯臟和要求苛刻的任務(wù)，還能通過取代人力和有人操作平臺(tái)節(jié)約大量成本，而且不會(huì)受到人類身體限制的阻礙。
埃齊奧尼父子還討論了自主武器系統(tǒng)的道德優(yōu)勢，稱它們可以通過編程避免“先開槍，后發(fā)問”的做法，不受會(huì)影響人類判斷的壓力和情緒的影響。
報(bào)道稱，新美國安全中心副主任保羅·沙雷曾在該中心2016年的一份報(bào)告中指出，最好的武器系統(tǒng)結(jié)合了人和機(jī)器的智能，創(chuàng)造出人機(jī)混合認(rèn)知結(jié)構(gòu)，可以利用人與機(jī)器的兩種優(yōu)勢。
沙雷提到，與單純依靠人類或AI相比，這樣的認(rèn)知結(jié)構(gòu)可以產(chǎn)生更好的結(jié)果。因此，針對自主武器的“人機(jī)回環(huán)”系統(tǒng)架構(gòu)可能是理想的解決方案，能防止AI自主武器因邏輯缺陷、軟件故障或敵方干擾等因素而違抗操作員指令的行為。
