美國國防部將開發針對信息欺騙攻擊的逆向溯源技術
2020-07-08 17:15:56
來源： 中國新一代人工智能
“美國國防部高級研究計劃局（DARPA）7月1日發布欺騙逆向工程（RED）項目招標書，旨在對信息欺騙攻擊的工具鏈開展逆向工程。”
2020年7月6日消息，美國國防部高級研究計劃局（DARPA）7月1日發布欺騙逆向工程（RED）項目招標書，旨在對信息欺騙攻擊的工具鏈開展逆向工程。
機器學習技術在訓練和部署時易受敵方信息戰攻擊，人類也很容易被偽造的圖像、視頻、音頻和文本欺騙，欺騙正在信息戰中扮演越來越重要的角色。
欺騙性信息攻擊中，敵人試圖篡改或操縱人類或機器學習系統使用的信息，從而改變計算結果使其對敵人更有利。欺騙逆向工程（RED）項目將開發能對如多媒體篡改、機器學習攻擊或其他信息欺騙等攻擊行為背后的工具鏈進行自動逆向工程的技術，并尋求開發可擴展的攻擊工具鏈數據庫。
項目第一階段將開發可信賴的計算算法，以識別信息欺騙攻擊背后的工具鏈。項目第二階段將開發可擴展的攻擊工具鏈數據庫技術，以支持歸因和防御。
此外，該項目還希望達成以下目的：開發對特定欺騙工具鏈不需要或只需要很少先驗知識的技術；自動將攻擊示例聚在一起，以發現欺騙工具鏈族群；概括總結機器學習和媒體操縱等多種信息欺騙場景。
