2023年7月，新美國安全中心（CNAS）推出報告《中美關系和軍事人工智能：美國如何在與中國的競爭中管控風險》（U.S.-China Competition and Military AI: U.S.-China Competition and Military AI），探討在中美博弈加劇和人工智能技術迅速發展背景下，美國如何在中美關系中有效管控由人工智能軍事化引發的一系列戰略風險，就軍事人工智能加劇中美戰略風險的可能路徑、美國管控軍事人工智能戰略風險的可選方案和相關措施建議展開了深入分析。報告具有較大參考價值，故將原文內容編譯如下，供讀者學習交流。
圖1：原報告封面
一、軍事人工智能加劇中美間戰略風險的五條路徑
新興軍事人工智能究竟會以何種方式加劇中美間的戰略風險？報告討論了五種可能的影響路徑，試圖對這一問題進行分析和預測。
（一）重塑中美軍事平衡
報告指出，在人工智能軍事化應用過程中，由于軍事實力單方面提高而造成的競爭雙方軍事實力失衡最有可能加劇中美戰略風險軍事人工智能短期內仍將主要用于改善軍隊的裝備維護、軍事后勤、人員培訓和決策支持等過程，發揮輔助性增益性作用，但這些“幕后”任務與前線部隊和武器一樣，構成了軍事實力的基礎。此外，一些新興軍事人工智能系統也將提高部隊的作戰能力，例如基于人機協同的“忠誠僚機”系統能夠幫助提高飛行員的任務度，盡管這種改進可能是漸進式而非革命性的，且相比完全自主的無人駕駛飛行器，“忠誠僚機”對空戰范式的變革作用有限。但毫無疑問的是，率先進行人工智能軍事應用的一方，其軍事實力將快速發展，此消彼長間可能推動中美軍事平衡進入新階段，引發落后方的恐慌和擔憂。
（二）深刻影響信息獲取和戰略決策
報告認為，軍事人工智能或將主要以三種方式增加決策和信息領域產生的戰略風險：一是壓縮決策時間，如果人工智能可以幫助一方更快決策，那么另一方可能會為了跟上對手的行動而倉促決策，這種時間壓力可能會加劇緊張局勢甚至制造一場新的危機；二是誘導決策者做出錯誤決策，人工智能系統的決策過程處于技術“黑箱”中，如果對人工智能系統的運行機制和缺陷缺乏清晰認知，重大戰略決策最終可能會建立在對被惡意捏造、扭曲的信息或其他劣質信息的分析的基礎上；三是通過大規模信息活動影響對手認知，借助人工智能生成海量含有指向性的文本、音頻、圖像或視頻，破壞政治穩定、混淆高層決策、制造同盟裂痕，引發或加劇政治危機。
圖2：基于人工智能的“深度偽造”技術已經能夠快速生成海量的偽造信息
（三）自主武器系統
首先，如果自主武器系統提供了更強的軍事能力，決策者將可能更傾向于使用武力，因為他們相信取勝的機會會更高。其次，使用自主武器系統的軍事行動在人員傷亡方面的預期風險較低，這可能會讓雙方領導人更有可能采取行動。再次，自主武器技術將極大增強現有武器系統的作戰能力，例如使高超聲速武器具備機動變軌的自主性，令敵更難攔截；或借助機器學習提高防空系統的預測能力，使反高超聲速和其他高端導彈防御系統的部署成為可能，為使用方賦能更強的軍事實力。最后，具備自主性的無人機群理論上可以為針對對手核武庫的常規反擊提供新的選擇，這種潛在能力將可能打破戰略平衡，加劇發生戰略誤判的風險。
（四）情報、監視和偵察（ISR）
軍事人工智能已經為完成情報、監視和偵察任務提供了新的工具，并且在未來可能發揮更大作用。軍事人工智能與現有技術的結合，可以極大提高完成ISR任務的效率和性價比。例如將人工智能與氣球或微衛星星座相結合，以在“近地空間”進行監視，或為偵察無人機賦能群集性。人工智能系統還可以大規模處理來自各種傳感器的數據，以跟蹤陸地上的移動導彈系統甚至大洋中的潛艇。如果這些能力成為現實，它們將為軍事實力領先者提供能夠破壞戰略穩定性的單向透明度，進而徹底損害對手三位一體核力量的生存能力，也能極大增加弱勢方采取“先發制人”打擊的可能性和必要性。
圖3：自主武器系統應該掌握“開火權”嗎？
（五）指揮、控制和通信（C3）
人工智能可以使網絡和電磁戰（EW）攻擊更具威脅性和破壞性。隨著大數據輸入在人工智能訓練中變得越來越重要，雙方都可能會通過修改或微調數據集來故意降低系統性能進而達到“毒害”對手的目的，這可能導致人工智能指揮、控制和通信系統的不確定性或可預測故障，被對手利用。另一個具體擔憂是，軍事人工智能可能會影響核武器的C3系統。核預警系統將越來越依賴人工智能技術快速分析來自各種傳感器的數據，但該系統可能會錯誤解讀數據，產生誤報，其結果可能引發兩敗俱傷的殘酷核戰爭。
二、美國管控軍事人工智能戰略風險的三種方案
報告指出，美國需要采取一系列措施來防范軍事人工智能給中美雙邊安全關系帶來的各種潛在危險，這些風險來源在現實中可能重疊，風險組合管理旨在減少多種不同的不穩定驅動因素，報告在此討論了管控軍事人工智能戰略風險的三種方案。
（一） 限制中國軍事人工智能技術發展
報告強調，人工智能可能加劇風險升級的一種途徑是它為一方提供足夠大的軍事優勢，使該國相信它可以以可接受的成本發動戰爭并實現其目標。因此，美國需要設法阻止中國人工智能技術發展，避免軍事力量平衡向有利于中國的方向傾斜。與此同時，大力發展美國的人工智能能力，使其始終處于領先地位，形成技術優勢威懾。目前，美國阻止中國軍事人工智能發展的重點主要集中在支持人工智能系統的重要硬件——先進半導體上，同時有針對性地從數據、算法和人才方面加以限制。例如美國政府對TikTok（海外版抖音）的打壓，部分原因是擔心美國人的數據可能被用來推動中國人工智能技術進步。美國還將對用于地理空間分析的人工智能算法源代碼進行嚴格監管，并進一步限制面部識別軟件、大型語言模型等通用算法的輸出或披露。在人才政策方面，美國政府會采取進一步措施，阻止中國學生在美國學習人工智能技術。
圖4：美國借口“國家安全”打壓TikTok
（二） 加強單邊責任管理，負責任管控軍事人工智能
報告指出，最小化平民傷亡應作為軍事人工智能的一個關鍵設計原則，降低軍事人工智能風險的最佳方法是將系統的安全性和可靠性與其殺傷力或效率放在同等重要的位置，并嚴格執行測試和評估、驗證和確認。為了最大限度地減少不確定性，中國和美國需要采用安全的設計原則。美國就軍事人工智能的開發和使用制定了一系列單方面的宣言性政策。美國國防部《人工智能原則：國防部人工智能應用倫理的若干建議》要求美軍在使用人工智能時做到“負責、公平、可追溯、可靠和可控”。這些核心原則在后續發布的文件中得到了重申和補充，如《負責任的人工智能實踐指南》、《負責任的人工智能戰略和實施途徑》以及2023年1月發布的《自主武器系統指令》（DoD Directive 3000.09 ），這些文件規定了如何使用人工智能并將其融入國防項目的整個生命周期。
（三）進行雙邊和多邊外交，降低戰略風險
防止危險的力量失衡、代價高昂的軍備競賽或誤判的另一種方式是進行雙邊和多邊外交。通過談判達成軍備控制協議或建立信任措施，各國可以嘗試為特定軍事技術的開發或使用設定界限，然后核查遵守情況。中國和美國應該討論對人工智能風險應用的限制，如規范其在核指揮與控制或進攻性網絡行動中的使用。美國和中國政府可以利用雙邊和多邊渠道，就人工智能對國家安全的影響交換意見。中美兩軍也可以開展對話，雙方就人工智能的軍事能力及其用途提出問題，并就交戰規則、行動沖突和其他主題進行溝通，充分表達各自訴求和期望。除官方渠道外，兩國還可利用1.5軌和2軌對話，增進理解與共識。
三、報告為美國決策層提供的九項措施建議
軍事人工智能的出現可能會加劇中美競爭，增加戰略風險。為了有效應對這一趨勢，報告認為美國的政策制定者應該從9個方面進行努力。
（一）限制相關國家人工智能的發展
報告建議美國政策制定者繼續限制半導體生產設備和技術、先進芯片等終端產品的對華出口，阻礙相關國家推進軍事人工智能。此外，還建議美國尋找或開發監管人工智能和其數據、算法、人力的創造性工具。明確發展人工智能軍用和軍民兩用技術，并不斷完善其政策，確保有效性，同時警惕政策為技術發展帶來限制。
（二） 保持美國軍事人工智能的領先地位
報告指出，美國必須迅速采取行動，跟上中國軍事人工智能的發展速度。這需要在許多領域進行改革，例如，將“韌性”作為軍事系統的關鍵屬性。要想在這方面取得成功，不僅國防部要做出努力，還需要更新移民和教育政策，吸引、培訓和留住世界各地最優秀的科學家和工程師。
（三） 制定、頒布和實施負責任的軍事人工智能規范或法規
美國應將自己定位為軍事人工智能技術開發、操作規范制定和最佳實踐的全球主要推動者。美國近期的主要優先事項應包括進一步充實在核C3基礎設施上實施網絡攻擊（包括人工智能）規范的操作細節，并履行2022年《核態勢評估報告》（Nuclear Posture Review，NPR）的承諾。簡而言之，美國的行動必須與其在負責任地使用軍事人工智能方面的言論相符。
圖5：美國自2018年起對華為展開全方位打壓
（四） 主動與盟友、伙伴以及多邊機構接觸
區域和全球伙伴關系在促成美國戰略目標完成方面發揮著至關重要的作用。美國應積極將相關問題的磋商納入其同盟和伙伴關系，擴大G7、北約、AUKUS及與日本和韓國雙邊關系的討論范圍，積極推進、倡導美國在多邊論壇中的立場。
（五）與中國就降低軍事人工智能相關風險和建立信任進行磋商
報告建議，美國可以嘗試拓展與中國建立軍事人工智能的談判渠道，如開發中美軍事人工智能術語詞匯表，保證雙方對關鍵概念有共同的定義，減少由于語言和文化障礙造成的誤解。雙方還可以基于人工智能能力制定風險等級，例如將后勤保障相關的人工智能確定為低風險等級，將自主核武器人工智能確定為高風險等級。進一步討論人工智能應用領域，同時規定人工智能在致命武器中的使用規范。即使雙方的談判不會達成預期結果，探討這些問題也有助于增進對彼此的理解。
（六） 持續尋求建立中美戰略風險和危機管理機制
建立有效的中美外交渠道，尤其是保持首腦級別的聯系，對降低戰略風險、管理潛在的危機至關重要。報告建議美國要持續探索建立中美戰略風險和危機管理機制，即使是間歇性發揮作用，也勝過沒有機制。
（七） 使軍事人工智能成為與核武器和戰略穩定相關的對華外交基本支柱
軍事人工智能在核能力與其他戰略能力的平衡方面發揮著越來越重要的作用。報告建議，由美國在聯合國五個常任理事國層面發起推進關于“戰略穩定”的討論，并將軍事人工智能納入談判。
（八）降低其他領域的戰略風險
報告認為，美國應盡快采取措施，減低其他相關領域的戰略風險，謹慎采取單邊行動。例如在局勢緊張加劇時推遲洲際彈道導彈試驗，特別是在不需要立即進行試驗來確保安全、可靠和有效的核威懾的情況下。
（九）強化情報收集、分析和評估
軍事人工智能的發展走向不僅取決于它本身，還取決于它與核武器、軍事基礎設施、通信能力等因素之間的相互作用，因此迫切需要加深對軍事人工智能相關的整體戰略穩定性的理解。報告建議美國責成相關組織完善或在需要時建立多學科辦公室和專家骨干，密切關注中國的民用及軍事人工智能活動，監測、分析與該問題相關的情報，并給出建議。
四、結 語
人工智能軍事應用可能加劇戰略風險，需要各國攜手對人工智能技術發展加以探索和規制。面對人工智能技術給人類社會帶來的機遇與挑戰，各國應該用對話打消猜忌，用合作取代對立，攜手推動人工智能領域依良法、促善治，使人工智能技術真正造福于人類。
文字 | 文力浩、陳琳（國防科技大學）
圖片 | 來源于網絡
編輯 | 韓建臣
審閱 | 許婧
