導(dǎo) 讀
隨著人工智能在軍事領(lǐng)域應(yīng)用價值日益凸顯，各軍事大國紛紛推進人工智能的軍事應(yīng)用，同時也引發(fā)了諸多安全風(fēng)險和挑戰(zhàn)。美國前國務(wù)卿基辛格曾警告稱，人工智能的潛在破壞力可能“遠(yuǎn)超核彈”。也有人預(yù)言，人工智能武器將是繼火藥、核武器之后“戰(zhàn)爭領(lǐng)域的第三次革命”，恐將觸發(fā)新一輪的軍備競賽，降低戰(zhàn)爭門檻。如何才能既有效推進軍事智能化發(fā)展同時最大限度地減少其帶來的風(fēng)險？這是當(dāng)前困擾世界各國的一個難題。2023年2月15日至16日，由荷蘭和韓國在海牙共同主辦了“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會。這是國際上圍繞“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”議題舉辦的第一屆峰會，引發(fā)國際社會高度關(guān)注。此次峰會發(fā)布了成果文件《軍事領(lǐng)域負(fù)責(zé)任使用人工智能行動倡議》（REAIM Call to Action），呼吁國際社會應(yīng)就軍事領(lǐng)域人工智能應(yīng)用所帶來的安全風(fēng)險挑戰(zhàn)加強多利益攸關(guān)方的討論合作。本文梳理總結(jié)了這一峰會中具有代表性的各方觀點及主要成果，并做簡要評析，供讀者參考。
圖1：在海牙舉辦的“軍事領(lǐng)域負(fù)責(zé)任使用人工智能峰會”
一、具有代表性的各方觀點
2023年2月15日至16日，由荷蘭和韓國在海牙共同主辦了“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會。中國、美國等80多國及聯(lián)合國等國際組織應(yīng)邀參加，來自政府、智庫、企業(yè)、科研機構(gòu)等1700余人與會。各方代表圍繞人工智能軍事應(yīng)用相關(guān)問題發(fā)表了重要的觀點，代表了這一領(lǐng)域國際上的最新觀點動態(tài)，總結(jié)梳理如下。
在這場“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會上，中國駐荷蘭大使兼常駐禁化武組織代表談踐率團與會，主要闡述了以下觀點。
圖2：中國駐荷蘭大使兼常駐禁化武組織代表談踐發(fā)表講話
談踐大使在高級別會議中表示，中國始終高度重視人工智能安全治理，不斷加強法律、軍事、技術(shù)、倫理等層面研究，改善相關(guān)安全治理，并就規(guī)范人工智能軍事應(yīng)用、加強人工智能倫理治理向聯(lián)合國提交兩份立場文件。談踐大使強調(diào)，人工智能軍事應(yīng)用問題事關(guān)全人類安全和福祉，需要各國團結(jié)應(yīng)對。中方主張堅持智能向善，反對借助人工智能謀求絕對軍事優(yōu)勢和霸權(quán)；堅持以人為本，遵守國際法和倫理道德，切實尊重和保障人類尊嚴(yán)和人權(quán)；堅持多邊主義，發(fā)揮聯(lián)合國主渠道作用，增加發(fā)展中國家代表性和發(fā)言權(quán)。中方反對人為制造科技壁壘，確保各國充分享有技術(shù)發(fā)展與和平利用的權(quán)利。
談踐大使表示，人工智能是人類共同的智慧結(jié)晶，它不是地緣政治的博弈工具，所以不應(yīng)該被政治化、武器化和意識形態(tài)化。中方愿同國際社會一道，推動跨國家、跨領(lǐng)域、跨文化的人工智能合作交流，我們反對構(gòu)建排他性集團、惡意阻撓他國技術(shù)發(fā)展的行徑。我們認(rèn)為，應(yīng)該堅持多邊主義、開放包容的原則，致力于共同規(guī)范人工智能軍事應(yīng)用并建立普遍參與的國際機制，推動形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。近年來，美英等軍事大國一方面大舉推進智能化軍事體系建設(shè)，加快人工智能軍事應(yīng)用研發(fā)；另一方面，在多邊領(lǐng)域，反對采取任何限制人工智能軍事應(yīng)用的舉措，甚至拼湊“人工智能防務(wù)伙伴計劃”“人工智能全球合作組織”等小集團，兜售以所謂“基本自由和民主價值”為基礎(chǔ)的人工智能治理規(guī)則。對此，談踐大使明確指出，在對人工智能軍事應(yīng)用領(lǐng)域加強監(jiān)管治理的同時，應(yīng)避免采取以意識形態(tài)劃線、泛化國家安全概念的做法。
談踐大使還強調(diào)，作為人工智能大國，中國始終以高度負(fù)責(zé)任的態(tài)度積極參與人工智能領(lǐng)域全球治理體系建設(shè)和改革。2021年以來，中方在聯(lián)合國場合相繼發(fā)布了《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》《中國關(guān)于加強人工智能倫理治理的立場文件》，為推進人工智能全球治理貢獻(xiàn)了“中國智慧”與“中國方案”。此外，中方還積極參與聯(lián)合國“致命性自主武器系統(tǒng)”問題討論，未來，中方將繼續(xù)以建設(shè)性姿態(tài)參與人工智能全球治理。
圖3：2021年12月，中國特命全權(quán)裁軍事務(wù)大使李松率團出席在日內(nèi)瓦召開的聯(lián)合國《特定常規(guī)武器公約》第六次審議大會，并向大會提交了《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》
美國代表邦尼·丹尼斯·詹金斯大使（Bonnie Denise Jenkins）也在會上闡述了美國對于人工智能軍事應(yīng)用的立場觀點，認(rèn)為人工智能是一種變革性的通用技術(shù)，?利用這種新技術(shù)為經(jīng)濟社會和軍事領(lǐng)域帶來了機遇和風(fēng)險，將以未知的方式改變歷史的進程。例如，人工智能的應(yīng)用可以幫助應(yīng)對解決復(fù)雜的核查挑戰(zhàn)，增強對各國承諾的信心，從而加強軍備控制。越來越多的國家正在發(fā)展軍事人工智能能力，其中可能包括使用人工智能來實現(xiàn)自主系統(tǒng)。美國從負(fù)責(zé)任的角度將人工智能用于軍事目的，這意味著在利用人工智能的好處的同時，必須關(guān)注安全和負(fù)責(zé)任的行為，這與戰(zhàn)爭法和國際人道主義法是一致的。人工智能的軍事使用可以而且應(yīng)該是合乎倫理的、負(fù)責(zé)任的，并增強國際安全，在武裝沖突中使用人工智能必須符合國際人道主義法。人工智能能力的軍事使用需要進行有效問責(zé)，包括在負(fù)責(zé)任的指揮和控制鏈內(nèi)的軍事行動中應(yīng)用人工智能。軍事使用人工智能的原則方法應(yīng)該包括仔細(xì)考慮風(fēng)險和收益，還應(yīng)該最大限度地減少意外偏見和事故。各國應(yīng)采取適當(dāng)措施，確保負(fù)責(zé)任地開發(fā)、部署和使用其軍事人工智能能力，包括那些實現(xiàn)自主系統(tǒng)的能力。這些措施應(yīng)該覆蓋到軍事人工智能能力的整個生命周期。
圖4：美軍不斷推動人工智能軍事應(yīng)用
美國代表強調(diào)，人工智能將深刻變革后勤管理、軍事訓(xùn)練、作戰(zhàn)方式等軍隊各領(lǐng)域。負(fù)責(zé)任的軍隊?wèi)?yīng)當(dāng)使用人工智能能力來改善決策和態(tài)勢感知，幫助避免意外交戰(zhàn)。人工智能能力將提高使用武力的準(zhǔn)確性和精確性，這也將有助于加強執(zhí)行國際人道主義法對平民的保護。人工智能的軍事用途可以讓世界更安全。然而，由于許多人工智能系統(tǒng)的脆弱性，急于利用人工智能而不采取謹(jǐn)慎、有原則的方法的國家可能會部署具有不可預(yù)測后果的系統(tǒng)——無論是因為系統(tǒng)設(shè)計不當(dāng)、測試不足，還是因為指揮官和操作人員對這些系統(tǒng)的能力和局限性沒有充分了解。
美國代表表示，目前美國防部已經(jīng)發(fā)布軍用人工智能倫理原則和負(fù)責(zé)任的人工智能戰(zhàn)略和實施途徑，闡釋了指導(dǎo)美軍在軍事領(lǐng)域應(yīng)用人工智能的基本原則和實踐路徑。美國致力于開發(fā)可靠的人工智能系統(tǒng)，確保操作者能夠適當(dāng)謹(jǐn)慎地并根據(jù)適用的國內(nèi)法和國際法使用基于人工智能技術(shù)的武器系統(tǒng)，并確保保留人類的責(zé)任，確保在軍事行動中人工智能技術(shù)的使用始終在負(fù)責(zé)任的指揮和控制人力鏈中。此外，美國和英法兩國已經(jīng)作出聯(lián)合承諾，對所有執(zhí)行有關(guān)使用核武器的主權(quán)決定至關(guān)重要的行動保持人類控制和參與，旨在確保這種最危險的軍事技術(shù)受到人類的嚴(yán)格監(jiān)督。
同時，美國代表還指出，在開發(fā)、部署和使用軍事人工智能能力時應(yīng)采取下列舉措。
1.各國應(yīng)采取法律審查等有效步驟，確保其軍事人工智能能力僅在符合其國際法特別是國際人道主義法義務(wù)的情況下使用；
2.各國應(yīng)保持對所有行動的人類控制和參與，這些行動對通報和執(zhí)行有關(guān)使用核武器的主權(quán)決定至關(guān)重要；
3.各國應(yīng)確保高級官員監(jiān)督所有具有重大應(yīng)用的軍事人工智能能力的開發(fā)和部署，包括但不限于武器系統(tǒng)；
4.各國應(yīng)通過、發(fā)布和實施其軍事組織負(fù)責(zé)任的設(shè)計、開發(fā)、部署和使用人工智能能力的原則；
5.各國應(yīng)確保相關(guān)人員在開發(fā)、部署和使用軍事人工智能能力(包括具備這種能力的武器系統(tǒng))時給予適當(dāng)?shù)恼疹?，包括適當(dāng)水平的人類判斷；
6.各國應(yīng)確保采取深思熟慮的步驟，盡量減少軍事人工智能能力方面的意外偏見；
7.各國應(yīng)確保利用可審計的方法、數(shù)據(jù)源、設(shè)計程序和文件開發(fā)軍事人工智能能力；
8. 各國應(yīng)確保使用或批準(zhǔn)使用軍事人工智能能力的人員經(jīng)過培訓(xùn)，以便充分了解其能力和限制，并能夠?qū)ζ涫褂米龀龌诒尘暗呐袛啵?/span>
9.各國應(yīng)確保軍事人工智能能力具有定義明確的用途，并確保其設(shè)計用于實現(xiàn)這些預(yù)期功能；
10.各國應(yīng)確保軍事人工智能能力的安全性和有效性在其明確定義的用途和整個生命周期內(nèi)接受適當(dāng)和嚴(yán)格的測試和保證。自我學(xué)習(xí)或不斷更新軍事人工智能能力也應(yīng)受到監(jiān)測過程的制約，以確保關(guān)鍵的安全功能沒有退化；
11. 各國應(yīng)使軍事人工智能具備避免出現(xiàn)意外后果的能力。各國還應(yīng)實施其他適當(dāng)?shù)谋Ｕ洗胧詼p輕嚴(yán)重故障的風(fēng)險；
12.各國應(yīng)繼續(xù)討論如何以負(fù)責(zé)任的方式開發(fā)、部署和使用軍事人工智能能力，以促進這些做法的有效實施。
尤為值得注意的是，美國在此次峰會上還發(fā)表了一份關(guān)于負(fù)責(zé)任使用人工智能與自主技術(shù)的政治宣言，具體內(nèi)容如下：
1. 確保相關(guān)人員在開發(fā)、部署和使用軍事人工智能時要維持適當(dāng)水平的人類判斷;
2. 開發(fā)軍事人工智能系統(tǒng)具備避免意外后果的能力；
3. 確保使用可審計的方法、數(shù)據(jù)源、設(shè)計程序和文檔開發(fā)軍事人工智能能力;
4. 最小化軍事人工智能能力的意外偏差;
5. 確保國際法，特別是國際人道主義法得到遵守。
二、主要成果
在此次峰會上，包括中國、美國在內(nèi)的60多個國家簽署了一項“行動倡議”，支持“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”的立場，在世界上產(chǎn)生了重要影響。具體內(nèi)容如下：
圖5：軍事領(lǐng)域負(fù)責(zé)任使用人工智能行動倡議
倡議指出，人工智能正在從根本上影響和改變我們的世界。人工智能將極大地影響未來的軍事行動，就像它影響我們的工作和生活方式一樣。各國軍隊正在不斷推進人工智能的軍事應(yīng)用。人工智能作為一種使能技術(shù)具有非凡的潛力，使人類能夠有力地利用以前無法想象的數(shù)據(jù)量并改善決策。然而，應(yīng)當(dāng)認(rèn)識到其中也有風(fēng)險，其中許多是迄今無法預(yù)見的。全世界都在關(guān)注人工智能在軍事領(lǐng)域應(yīng)用存在的風(fēng)險挑戰(zhàn)，包括人工智能系統(tǒng)潛在的不可靠問題、人類參與的問題、問責(zé)困難和潛在的意外后果，以及在武裝力量范圍內(nèi)意外升級的風(fēng)險等。
倡議強調(diào)，各國應(yīng)當(dāng)在軍事領(lǐng)域負(fù)責(zé)任地使用人工智能，按照國際法律義務(wù)，以不損害國際安全、穩(wěn)定和問責(zé)制的方式使用人工智能，是至關(guān)重要的。這一行動倡議邀請各國政府、工業(yè)界、知識機構(gòu)、國際組織和其他方面支持以下工作。
1. 承認(rèn)在軍事領(lǐng)域迅速運用人工智能對國際安全和穩(wěn)定產(chǎn)生的潛在影響，包括機遇和挑戰(zhàn)；
2. 人工智能在軍事領(lǐng)域的應(yīng)用應(yīng)當(dāng)減少對平民和民用物體傷害的風(fēng)險；
3. 當(dāng)前沒有也不可能完全理解和預(yù)見在軍事領(lǐng)域廣泛應(yīng)用人工智能所帶來的影響和挑戰(zhàn)；
4. 提高對在軍事領(lǐng)域運用人工智能的影響的理解。這包括破除神話，以及提高關(guān)于人工智能在軍事領(lǐng)域基于風(fēng)險和限制的知識和素養(yǎng)；
5. 贊賞許多行為體在負(fù)責(zé)任地開發(fā)、部署和使用軍事人工智能方面所做的工作，包括相關(guān)的國家戰(zhàn)略、人工智能原則和國際倡議，以及不同利益攸關(guān)方群體為有效應(yīng)對將人工智能嵌入軍事領(lǐng)域所帶來的挑戰(zhàn)而積累的專業(yè)知識；
6. 人工智能可以用來塑造和影響決策，需要努力確保在軍事領(lǐng)域使用人工智能時，人類仍然要對決策負(fù)責(zé)和問責(zé)；
7. 有必要評估目前和未來在軍事領(lǐng)域應(yīng)用各種人工智能技術(shù)的各種類型以及應(yīng)用人工智能的不同軍事背景所涉及的風(fēng)險；
8. 不及時采用人工智能可能會導(dǎo)致軍事上的劣勢，而在沒有充分研究、測試和保證的情況下過早采用人工智能可能會導(dǎo)致意外傷害。有必要加強有關(guān)減少風(fēng)險的做法和程序方面經(jīng)驗教訓(xùn)的國際交流；
9. 在應(yīng)對軍事領(lǐng)域使用人工智能可能產(chǎn)生的影響、機會和挑戰(zhàn)方面，必須采取整體、包容和全面的方法，所有利益攸關(guān)方，包括國家、私營部門、民間社會和學(xué)術(shù)界，都需要就軍事領(lǐng)域負(fù)責(zé)任的人工智能開展合作和交流；
10.人工智能系統(tǒng)數(shù)據(jù)的收集、使用、共享、歸檔和刪除應(yīng)符合國際法以及相關(guān)的國家、區(qū)域和國際法律框架和數(shù)據(jù)標(biāo)準(zhǔn)。從早期設(shè)計階段開始就應(yīng)建立和確保適當(dāng)?shù)臄?shù)據(jù)保護和數(shù)據(jù)質(zhì)量治理機制，包括在獲得和使用人工智能訓(xùn)練數(shù)據(jù)方面；
11. 由于軍事決策的分散性和人工智能系統(tǒng)的復(fù)雜性，需要密切關(guān)注人工智能在軍事領(lǐng)域的開發(fā)、部署和使用的各個階段。鼓勵公共和私營部門之間的合作，并努力擴散軍事領(lǐng)域開發(fā)、部署和使用人工智能的多利益攸關(guān)方之間的接觸；
12. 必須確保對人工智能系統(tǒng)的使用采取適當(dāng)?shù)谋Ｕ洗胧┖腿藛T監(jiān)督，同時考慮到由于時間和能力的限制而造成的人員限制；
13. 使用人工智能的軍事人員應(yīng)充分了解人工智能系統(tǒng)的特點、使用這些系統(tǒng)的潛在后果，包括任何限制造成的后果，如數(shù)據(jù)中的潛在偏見，因此需要對用戶互動的方式和對人工智能系統(tǒng)的依賴進行研究、教育和培訓(xùn)，以避免不良影響；
14. 應(yīng)當(dāng)促進各國之間交流良好做法和經(jīng)驗教訓(xùn)，以提高各國對在軍事領(lǐng)域使用人工智能的國家框架和政策的相互理解。私營部門分享規(guī)范、政策、原則和技術(shù)專長方面的良好做法和經(jīng)驗教訓(xùn)是十分重要的；
15. 在軍事領(lǐng)域應(yīng)用人工智能的情況因國家而異。在軍事領(lǐng)域負(fù)責(zé)任地使用人工智能需要多邊和多利益攸關(guān)方的相互交流，以使所有國家，特別是發(fā)展中國家從機會中受益，并應(yīng)對挑戰(zhàn)和風(fēng)險；
16. 有必要繼續(xù)就人工智能在軍事領(lǐng)域的使用所帶來的好處、困境、風(fēng)險和挑戰(zhàn)進行國際和多方利益攸關(guān)方討論。邀請國際私營部門、學(xué)術(shù)界、民間社會和其他相關(guān)利益攸關(guān)方積極推動多邊層面的討論，促進軍事領(lǐng)域負(fù)責(zé)任使用人工智能；
17. 人工智能領(lǐng)域的技術(shù)發(fā)展主要發(fā)生在民用領(lǐng)域。因此，在軍事領(lǐng)域引入人工智能是一個多利益攸關(guān)方的挑戰(zhàn)。應(yīng)當(dāng)致力于以多方利益攸關(guān)方和包容的方式繼續(xù)開展關(guān)于軍事領(lǐng)域負(fù)責(zé)任的人工智能的全球?qū)υ?，并呼吁所有利益相關(guān)者根據(jù)國際法承擔(dān)其責(zé)任，為國際安全和穩(wěn)定作出貢獻(xiàn)；
18. 各國應(yīng)當(dāng)制定關(guān)于軍事領(lǐng)域負(fù)責(zé)任的人工智能的國家框架、戰(zhàn)略和原則；
19. 歡迎各國、學(xué)術(shù)界、民間社會、工業(yè)界和其他利益攸關(guān)方采取舉措，促進軍事領(lǐng)域負(fù)責(zé)任的人工智能；
20. 支持全球?qū)W術(shù)界、知識機構(gòu)和智庫開展更多的研究，以便更好地理解在軍事領(lǐng)域迅速采用人工智能的影響、機遇和挑戰(zhàn)，特別是在人機協(xié)作領(lǐng)域，同時認(rèn)識到不同的人工智能系統(tǒng)在不同軍事背景下的多方面使用情況；
21. 邀請學(xué)術(shù)界、知識機構(gòu)和智庫就人工智能在軍事領(lǐng)域的使用所帶來的挑戰(zhàn)提出方法，并為實際解決方案作出貢獻(xiàn)，以促進國際安全和穩(wěn)定；
22. 呼吁私營部門支持和促進在軍事領(lǐng)域負(fù)責(zé)任地使用人工智能。鼓勵公司與其他利益攸關(guān)方分享關(guān)于負(fù)責(zé)任地使用人工智能的良好做法和政策，特別是那些可能與在軍事領(lǐng)域使用人工智能有關(guān)的良好做法和政策，同時注重國家安全考慮和對商業(yè)專有信息的限制；
23. 鼓勵多利益攸關(guān)方就最佳做法進行對話，以指導(dǎo)在軍事領(lǐng)域開發(fā)、部署和使用人工智能，確保在整個軍事領(lǐng)域負(fù)責(zé)任地使用人工智能的良好做法和政策方面進行跨學(xué)科討論；
24. 邀請全世界所有利益攸關(guān)方加入這一行動倡議。
三、簡要評價
應(yīng)當(dāng)看到，作為“后疫情時代”首個人工智能軍事應(yīng)用領(lǐng)域的國際會議，此次在荷蘭舉辦的“軍事領(lǐng)域負(fù)責(zé)任使用人工智能峰會”具有重要的國際影響和意義。這一方面表明，在俄烏沖突加速智能化戰(zhàn)爭形態(tài)來臨的背景下，國際社會愈加重視為人工智能軍事應(yīng)用領(lǐng)域制定規(guī)則規(guī)范，以維護人工智能時代的軍事安全與全球戰(zhàn)略穩(wěn)定。該峰會“行動倡議”的簽署方表明，他們將致力于根據(jù)“國際法律義務(wù)”并“以不損害國際安全、穩(wěn)定和責(zé)任的方式”開發(fā)和使用軍事領(lǐng)域的人工智能。另一方面，此次會議也折射出各方在這一領(lǐng)域存在的嚴(yán)重分歧和制定國際條約的困難性。例如，一些積極推進人工智能軍事應(yīng)用的國家（如以色列）雖然參與了會議，但沒有簽署有關(guān)聲明。雖然部分國家通過了一項“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”行動倡議，但是并不具有法律約束力。對于人工智能對戰(zhàn)略穩(wěn)定性的威脅以及致命性自主武器系統(tǒng)問題，此次會議也沒有提出相應(yīng)的解決方案。可以預(yù)見，未來要在世界范圍內(nèi)達(dá)成共識，有效管控人工智能軍事應(yīng)用帶來的國際安全風(fēng)險，仍然任重道遠(yuǎn)。
以上文章來源于軍事高科技在線 ，作者秦風(fēng)
參考文獻(xiàn)
[1] 新華網(wǎng)，“中美等國呼吁：監(jiān)管人工智能軍事應(yīng)用迫在眉睫”，2023年2月20日，http://www.xinhuanet.com/mil/2023-02/20/c_1211730565.htm
[2] REAIM 2023 Call to Action，https://www.government.nl/documents/publications/2023/02/16/reaim-2023-call-to-action；https://www.government.nl/ministries/ministry-of-foreign-affairs/activiteiten/reaim
