專題報道
美國“電氣和電子工程師協(xié)會頻譜”（IEEE Spectrum）網(wǎng)站2024年4月27日發(fā)表圣何塞州立大學(xué)的人類學(xué)教授羅伯特·J·岡薩雷斯撰寫的文章《人類士兵會信任他的機(jī)器人戰(zhàn)友嗎？》。文章分析了美軍中普遍存在對智能機(jī)器人缺乏信任的問題，梳理了美各軍種為促成作戰(zhàn)人員對自主機(jī)器人系統(tǒng)的信任所采取的舉措，介紹了相關(guān)實(shí)驗(yàn)取得的成果，相關(guān)內(nèi)容具有啟發(fā)借鑒意義。現(xiàn)節(jié)選編譯如下。
在過去10年的大部分時間里，幾位有影響力的五角大樓官員一直在不遺余力地推廣機(jī)器人技術(shù)，并承諾未來“人類將組成一體化團(tuán)隊(duì)，擁有幾乎完全自主的無人系統(tǒng)，能夠在競爭激烈的環(huán)境中執(zhí)行任務(wù)。”美國政府正在花費(fèi)驚人的資金來推進(jìn)這些技術(shù)：在2019財年，美國國會向國防部提供96億美元用于資助無人駕駛和機(jī)器人系統(tǒng)，遠(yuǎn)遠(yuǎn)超過整個國家科學(xué)基金會的年度預(yù)算。支持?jǐn)U展自主系統(tǒng)的論點(diǎn)是一致和可預(yù)測的：這些機(jī)器將保證我們軍隊(duì)的安全，因?yàn)樗鼈兛梢詧?zhí)行枯燥、骯臟和危險的任務(wù)，將減少造成的平民傷亡，將具有成本效益和效率。前國防部副部長羅伯特·沃克最直言不諱地支持軍隊(duì)機(jī)器人化。在2015年的一個防務(wù)論壇上，他以洛克希德·馬丁公司最新的隱身戰(zhàn)斗機(jī)為例，描述了“人機(jī)協(xié)作”將利用大數(shù)據(jù)分析贏得戰(zhàn)爭的未來：“F-35不是一架戰(zhàn)斗機(jī)，它是一臺飛行傳感器計算機(jī)，可以吸收大量數(shù)據(jù)，將其關(guān)聯(lián)起來進(jìn)行分析，并顯示在飛行員的頭盔上。”《紐約時報》2016年的一篇文章稱：“軍方內(nèi)部的爭論不再是是否制造自主武器，而是賦予它們多大的獨(dú)立性。”
機(jī)器人士兵究竟是何物？
20世紀(jì)初，軍事和情報機(jī)構(gòu)開始開發(fā)機(jī)器人系統(tǒng)，這些系統(tǒng)大多是由人類控制遠(yuǎn)程操作的設(shè)備。但微芯片、便攜式電腦、互聯(lián)網(wǎng)、智能手機(jī)和其他發(fā)展加速了創(chuàng)新的步伐。同樣，從各種電子來源和傳感器獲取的海量數(shù)據(jù)也是現(xiàn)成的。《金融時報》報道：“人工智能的進(jìn)步帶來了機(jī)器人士兵與人類并肩作戰(zhàn)的前景，并且有朝一日會使人類黯然失色。”所有這些都提出了一個問題：“機(jī)器人士兵”究竟為何物？它是一個遠(yuǎn)程控制的、有輪子的裝甲盒子，完全依賴于明確的、連續(xù)的人工指令嗎？它是一種可以被激活并在有限程度的人為監(jiān)督或干預(yù)下半自主運(yùn)行的設(shè)備嗎？它是一個能夠選擇目標(biāo)（使用面部識別軟件或其它形式的人工智能）并在沒有人工參與的情況下發(fā)起攻擊的機(jī)器人嗎？在遠(yuǎn)程控制和完全自主之間存在著數(shù)百種（或數(shù)千種）可能的技術(shù)配置，而這些差異影響著誰對機(jī)器人的行為負(fù)責(zé)的想法。
美國軍方的機(jī)器人和自主系統(tǒng)包括大量依賴遠(yuǎn)程控制或人工智能的人工制品：空中無人機(jī)；各類地面車輛；時尚的戰(zhàn)艦和潛艇；自動化的導(dǎo)彈；還有各種形狀和大小的機(jī)器人—兩足機(jī)器人，像狗或騾子一樣奔跑的四足機(jī)器人，昆蟲成群的機(jī)器，以及像魚、軟體動物或甲殼類動物一樣的流線型水生設(shè)備，不一而足。
軍事計劃者預(yù)測的轉(zhuǎn)變表明，美軍正處于一個三階段的演進(jìn)過程中，從遙控機(jī)器人開始，人“在回路中”，接著進(jìn)入半自主和受監(jiān)督自主系統(tǒng)，人“在回路上”，然后以采用完全自主系統(tǒng)結(jié)束，人“不在回路中”。目前，軍事領(lǐng)域的大部分爭論都與自動化系統(tǒng)允許或需要人工干預(yù)的程度有關(guān)。近年來，許多炒作都集中在第二階段：國防部官員稱之為“人機(jī)團(tuán)隊(duì)”的半自主和受監(jiān)督自主系統(tǒng)。
2015年11月，沃克高調(diào)發(fā)表了一篇關(guān)于人機(jī)合作重要性的演講。有說法稱，沃克的設(shè)想是“計算機(jī)將驅(qū)動導(dǎo)彈、瞄準(zhǔn)激光、干擾信號、讀取傳感器，并通過網(wǎng)絡(luò)將所有數(shù)據(jù)匯集在一起，將其放入一個直觀的界面中，人可以閱讀、理解并使用它來指揮任務(wù)”—但人仍將參與其中，“使用機(jī)器使人做出更好的決策。”
對機(jī)器的懷疑
不過，戰(zhàn)地人員對五角大樓最新戰(zhàn)爭機(jī)器的副作用表達(dá)了深切的憂慮。問題似乎在于人類缺乏對機(jī)器人的信任。制造機(jī)器人武器系統(tǒng)的工程挑戰(zhàn)相對簡單，但說服人類相信機(jī)器所面臨的社會和心理挑戰(zhàn)卻異常復(fù)雜。在高風(fēng)險、高壓力的情況下，比如戰(zhàn)斗中，人類對自主系統(tǒng)的信心可能會迅速消失。在2015年的一篇文章中，美海軍指揮官格雷格·史密斯坦誠地評估了飛行員對無人機(jī)的不信任。他指出，操作員有時會失去與無人機(jī)的聯(lián)系，可能會無意中讓它們危險地靠近有人駕駛飛機(jī)，這“讓飛行員毛骨悚然”。然而，五角大樓的領(lǐng)導(dǎo)人對這些系統(tǒng)近乎迷信，似乎堅定地相信，人類對自主系統(tǒng)缺乏信心的情況可以通過工程解決方案來克服。將機(jī)器添加到軍事團(tuán)隊(duì)的問題不是條令性的或數(shù)字上，而是心理上的。這需要重新思考促成士兵與機(jī)器信任所需的本能門檻。真正的困難在于超越個人心理和社會障礙，承擔(dān)算法戰(zhàn)帶來的風(fēng)險。要做到這一點(diǎn)，需要在若干個心理和情感領(lǐng)域重塑軍事文化……人工智能訓(xùn)練師應(yīng)該與傳統(tǒng)軍事領(lǐng)域的專家合作，培養(yǎng)新技術(shù)中固有的安全感。通過這種交流，士兵們將培養(yǎng)出與機(jī)器之間的類似人與人之間的本能信任。
信任工程師開始工作
很快，保持戒備的作戰(zhàn)人員可能會接受新的訓(xùn)練形式，重點(diǎn)是在機(jī)器人和人類之間建立信任。為了增加信任，機(jī)器人已經(jīng)被編程為用更人性化的方式與用戶交流。目前正在進(jìn)行的項(xiàng)目是幫助軍用機(jī)器人在特定情況下向人類報告它們的不足，并根據(jù)機(jī)器感知到的用戶的情緒狀態(tài)來改變它們的功能。
在美陸軍作戰(zhàn)能力發(fā)展司令部陸軍研究實(shí)驗(yàn)室，軍事心理學(xué)家用了10多年時間進(jìn)行與機(jī)器信任有關(guān)的人體實(shí)驗(yàn)。在一組測試中，實(shí)驗(yàn)人員部署了一個名為“自主小隊(duì)成員”的小型地面機(jī)器人，它可以與步兵進(jìn)行互動和交流。研究人員改變了“基于情境感知的代理透明度”，即機(jī)器人關(guān)于其計劃、動機(jī)和預(yù)測結(jié)果的自我報告信息。研究發(fā)現(xiàn)，當(dāng)自主的“代理”對其意圖更加透明或誠實(shí)時，人類對機(jī)器人的信任就會增加。美陸軍并不是唯一研究人類對機(jī)器人信任的軍種。美空軍研究實(shí)驗(yàn)室最近成立了一個專門研究這一課題的小組：人類信任與互動分部，隸屬于該實(shí)驗(yàn)室位于俄亥俄州賴特-帕特森空軍基地的第711人類表現(xiàn)聯(lián)隊(duì)。2015年，美空軍開始征集“研究如何利用人機(jī)團(tuán)隊(duì)/信任動態(tài)的社會情感因素，并將其注入人機(jī)編組”的提議。空軍實(shí)驗(yàn)室首席工程研究心理學(xué)家馬克·德雷珀對人機(jī)合作的前景持樂觀態(tài)度：“隨著自主性變得更加可信，更加強(qiáng)大，空軍可以開始把更多的決策能力交給自主性，而自主性可以在越來越重要的決策層面發(fā)揮作用。”
空軍研究人員正在嘗試剖析人類信任的決定因素。在一個項(xiàng)目中，他們使用所謂的“五大人格特質(zhì)”—開放性、責(zé)任心、外向性、親和性、神經(jīng)質(zhì)，來衡量一個人的性格與其信任傾向之間的關(guān)系。在另一項(xiàng)名為“信任機(jī)器戰(zhàn)警：性別對自主機(jī)器人信任的影響”的實(shí)驗(yàn)中，空軍科學(xué)家向男性和女性研究對象展示了一段描繪警衛(wèi)機(jī)器人的視頻，以比較他們對機(jī)器的信任程度。該機(jī)器人配備泰瑟槍，與人互動，最終使用泰瑟槍擊倒一人。通過對不同對象的調(diào)查研究，科學(xué)家發(fā)現(xiàn)女性對“機(jī)器戰(zhàn)警”的信任程度高于男性。對自主系統(tǒng)的信任問題甚至促使美空軍首席科學(xué)家提出了一些想法，以提高人類對機(jī)器的信心，包括更好的機(jī)器人禮儀到更像人的機(jī)器人等。
美軍空中支援作戰(zhàn)及其指揮控制系統(tǒng)
