人工智能和虛假信息：在21世紀沖突中的作用
責編：gltian ｜2024-09-19 11:24:592024年8月15日，秘魯《安全與陸權》雜志（SECURITY AND LAND POWER JOURNAL）發表文章《人工智能和虛假信息：在21世紀沖突中的作用》（Artifcial Intelligence and Disinformation: Role in 21st Century Conficts）。文章認為，世界各地新近發生的各種沖突表明，人工智能等顛覆性技術對戰爭發展至關重要。使用最先進技術的不僅限于傳統的國際人道主義法（IHL）行為者，非國家行為者也參與其中。這不僅挑戰國際法律框架的有效性，為非法和不正當的行動開辟道路，而且可能會擴大和平與戰爭之間的灰色地帶。在這個混亂且日益危險的環境中，信息和虛假信息已被用作戰略武器。文章旨在分析人工智能（AI）等顛覆性技術的軍事應用，并確定虛假信息和信息作為戰略工具的潛力。
人工智能和虛假信息：在21世紀沖突中的作用
編譯：大林
全文摘要與關鍵詞
1.21世紀沖突的技術背景：“第四次工業革命”：數字化和自動化，虛假信息成為國際安全的最大威脅之一；顛覆性技術與虛假信息相融合
2.AI與虛假信息：GAI與虛假信息的破壞式結合；武裝沖突充斥著AI生成的虛假信息；信息技術削弱“權利”邊界；打擊和規范虛假信息
?3.AI和虛假信息在21世紀沖突中的應用：AI和虛假信息的戰爭應用與影響懸而未決；AI偵察或可失誤，傷及平民；虛假信息是一把雙刃劍，一項古老而有效的戰爭原則；信息/虛假信息的應用（作為戰略武器、作為欺騙策略、作為破壞穩定的手段、造成混亂和社會分裂的根源、逃避責任和制裁、創造定制現實或后真相的工具）
4.關于軍事行動中不道德使用AI和虛假信息的立場：
①道德困境：“新軍事技術的發展和擴散導致了幾場系統性戰爭中出現了無法預料的殘酷性”
②回旋鏢效應：即謊言的傳播可能會導致人們被謊言所信服并扭曲現實，直到其陷入信息困境??
③趨利避害：AI推動了技術研發的進步，也是生成虛假新聞的極其有用的工具
④防患于未然：AI或可預見沖突并采取先發制人的行動；虛假信息無需戰爭即可擊敗敵人是一項既定的戰略原則???
5.結論：信息或虛假信息已成為發動戰爭的手段，如何規范用于訓練AI的私人數據和世界人口信息，防止人工智能被用于暗殺人民、違反國際法、制造可信的謊言或替代現實以及發動戰爭，仍有待確定。
01?21世紀沖突的技術背景
“第四次工業革命”：數字化和自動化，虛假信息成為國際安全的最大威脅之一。21世紀初的主流畫卷充斥著技術進步，世界正在經歷所謂的“第四次工業革命”，其特征是數字化和自動化，由互聯網、云、數字協調、信息物理系統、機器人和人工智能等顛覆性技術驅動。第四次工業革命帶來良好愿景并取得了進展，但也帶來了諸多挑戰。在軍事領域，對超連接和技術手段的普遍依賴已經影響了戰爭的進行方式，戰爭已經拓展到網絡空間和媒體領域。這使人工智能和虛假信息在戰略和戰術上都成為實現政治目標的關鍵要素。俄羅斯總統普京甚至強調，“誰掌握了人工智能，誰就控制了世界”。同樣，聯合國也認為，虛假信息是對國際安全的最大威脅之一。
顛覆性技術與虛假信息相融合。在這個日益混亂且危險的環境中，信息和虛假信息已被用作制造爭議、操縱思想、抹黑政治人物、分裂社會、掩蓋真實目標、引發沖突的手段；與此同時，也被用作高影響力武器（high-impact weapons）。主要的虛假信息和社會操縱活動應用人工智能精準、大規模、迅捷和廣泛地實現其目標。在政治、社會、經濟活動和軍事行動中，顛覆性技術與有效的虛假信息融合在一起，而人工智能是主角。
02?AI與虛假信息???
GAI與虛假信息的破壞式結合。人工智能被定義為模仿人類的行為、提高生產力、避免人為錯誤、遠遠超越人類執行的任務并尋求實現人類未實現的目標：自我意識。生成式人工智能（Generative AI，GAI）近來已成為在所有領域超越潛在人類對手的選項。在最近的沖突中，人們發現生成式人工智能已成為產生大量“假新聞”（深度偽造）的高效工具，證明了生成式人工智能與虛假信息之間的破壞式結合（destructive formula）。
武裝沖突充斥著AI生成的虛假信息。在此背景下，人工智能大量應用信息作為嚇阻、欺騙、操縱、控制或破壞穩定的武器，擴大了其影響范圍并使其影響多樣化。人工智能產生的虛假信息使國際行動陷入癱瘓，加劇了爭議，操縱了行動，為暴行辯護，制造混亂，暴露了雙重話語并分裂民意。鑒此，可以認為武裝沖突充斥著人工智能生成的虛假信息?，F在，需要采取有效且高效的對策，既要維護沖突各方的完整性和安全，也要維護國際體系的完整性和安全。
信息技術削弱“權利”邊界。就目前而言，應用人工智能等信息技術造福自身還是毀滅自身的決定權仍屬于人類。但在當今的情形下，對法律框架的尊重薄弱，（民用）科技公司參與戰爭的情況真實存在，灰色地帶不斷擴大，秘密行動成為常態，道德已被遺忘，戰爭技術的大規模應用以及國際機構的無效性已變得司空見慣。這種情形還將持續多久？人類愿意把生死攸關的決定權交給計算機嗎？國際社會能否扭轉這一趨勢？
打擊和規范虛假信息。虛假信息的成因和后果十分復雜。因此，明確界定打擊虛假信息的機制至關重要，這包括社會、文化、宗教和傳統（ancestral）表達，這些表達可能會以打擊虛假信息的借口受到錯誤限制。處理虛假信息方面的困難并不妨礙國際社會在和平時期或沖突局勢中努力規范虛假信息。許多研究試圖找到一種有效的方法來減輕虛假信息對公民思想的影響，但迄今為止，還沒有找到普遍適用的解決方案。這些研究證實了虛假信息具有社會、心理、經濟、外交、政治和軍事影響，有助于討論虛假信息在“混合戰爭”和“非接觸戰爭”中的作用。這兩種戰爭形式存在于21世紀的沖突中，并與人工智能的關系密切。
03?AI和虛假信息在21世紀沖突中的應用
AI和虛假信息的戰爭應用與影響懸而未決。人工智能和（虛假）信息將成為21世紀沖突中的首選武器，尤其是其具有的有效性、打擊范圍、成本效益、破壞性和隱蔽性優勢。然而，考慮到目前很難抵消其影響并將這些在戰場上使用的新形式技術手段歸為戰爭性質，國際社會還有很多工作要做，以限制其在軍事行動中不受限制地使用。能及時做到這一點嗎？人工智能開發人員會做出什么反應？武裝部隊是否愿意在戰斗中放棄這種技術？一切都懸而未決！
AI偵察或可失誤，傷及平民。保護非戰斗人員是國際人道法的基本原則，所有參與武裝沖突的人都必須遵守。表面上看，使用人工智能對危險人物進行有效偵察可以促進這一目標的實現，但卻導致了誤報，將平民誤認為軍事目標。武裝部隊的這種行為將人類簡化為一組數據，并引發了三方面擔憂：一是遵守國際人道法，二是尊重數字權利，三是數字非人化（digital dehumanization）。使用虛假信息作為武器，或以混亂、無知為由違反現行法律框架的行為辯護，使挑戰更加嚴峻。
虛假信息是一把雙刃劍，一項古老而有效的戰爭原則。盡管包括人工智能等顛覆性技術旨在促進和平、正義和人權發展，但其卻愈發被用于破壞性的自主行動，加劇了不平等和壓迫。信息被用來播下不確定性和混亂的種子。虛假信息證明人工智能是一把“雙刃劍”，既能增強人類的建設能力，也能增強人類的破壞能力。通用人工智能的風險尤其明顯，因為其有能力生成高級內容，從而加速過程、提高生產力和增加利潤；同時，其也會生成宣揚仇恨、不確定性、虛假信息甚至死亡威脅的內容。虛假信息代表了數字環境和通信時代的重大威脅之一，其被廣泛用于在任何沖突之前改變意志，這是一項古老而有效的戰爭原則。
信息/虛假信息的應用。文章分析了以非常規方式使用信息和/或虛假信息的可能性：虛假信息可作為一種戰略武器、一種欺騙策略、一種破壞穩定的手段、一種混亂和社會分裂的制造者、一種逃避責任或制裁的工具以及一種創造量身定制的現實（后真相）的工具：
- 作為戰略武器
虛假信息作為戰略武器的特征源于其范圍、影響、實用性和破壞力。虛假信息是故意制造的，目的是損害、反駁、削弱和誹謗個人和社會。其主要目標之一是通過煽動社會混亂和不確定性來破壞社會穩定，而這種混亂和不確定性是由人們內部“臭名昭著”的兩極分化所推動的。最終，必須認識到，虛假信息被用作一種武器，用于操縱、利用或加劇社會分裂，以推進政治、軍事、宗教、社會或商業目標。在虛假信息中，一切都是戰略；它試圖在發起直接對抗之前控制對手的思想，誘導錯誤并破壞對手的戰斗意志。這是不費一槍一彈就贏得戰爭，這得益于欺騙的能力，以及通過徹底了解細節而提供的多種策略或修辭程序。 - 作為欺騙策略?
虛假信息是誤導性和惡意的信息，其唯一目的是激起情緒、利用恐懼、改變觀點、充當反宣傳工具、挫敗對手的戰略、戰勝防御、玩弄對手的思想并增強自身能力。事實上，正如中國古代戰略家孫子指出的，兵法中的一切都基于欺騙，而欺騙是取得勝利的重要策略。正是在這一點上，虛假信息在當今的沖突中具有真正的重要性，各國必須注意，因為詭計有助于出其不意。 - 作為破壞穩定的手段
虛假信息的作用是提供錯誤信息、誤導目標人群。作為一種極好的政治宣傳工具，虛假信息可以面向世界各地的政府領導人、民間社會或大眾。其破壞個人、組織和國家穩定的能力源于難以核實信息的真實性。其目的是欺騙接收者相信信息的真實性，妖魔化敵對團體的行為，質疑目標的可信度。虛假信息是地緣政治和商業不穩定的主要因素，已成為世界各地都存在的幽靈?！陡２妓埂冯s志指出，聯合國也擔心人工智能可能在選舉中用于傳播虛假信息。 - 造成混亂和社會分裂的根源
虛假信息在情報和反情報戰略中發揮著作用，即插入容易被公眾相信的誤導性或虛假數據。具有諷刺意味的是，在信息時代，互聯網被廣泛用于傳播虛假新聞以及難以控制發布內容的真實性，這使實施混合戰爭日益成為一種戰略，旨在削弱公民對其機構的信心，制造混亂和對國家目標的不確定性。 - 逃避責任和制裁
虛假信息缺乏確定性事實、創造替代性現實、利用信息制造矛盾、導致數據泛濫和撒謊便利性，使某些犯罪行為逍遙法外。利用虛假信息作為逃避責任或制裁的工具，一直是阻礙或逃避執法的有效方式。一些國際戰爭行為受到國際社會的懲罰和譴責，而其他類似甚至更為嚴重的犯罪行為卻沒有受到懲罰，虛假信息強化了某些國際行為體的雙重話語，也證明了存在有罪不罰現象。 - 創造定制現實或后真相的工具
“后真相”一詞最早由史蒂夫·特西奇于1992年使用，當時他提到“伊朗門”丑聞，以證明輿論傾向于承認統治者的謊言是絕對真理。特西奇的工作由拉爾夫·凱斯和埃里克·奧特曼等學者繼續進行。21世紀初，后真相被更詳細地描述。正是由于后真相能夠以誤導性的方式描述當前情況，使用虛假信息，后真相甚至可被稱作“情緒化謊言”，這意味著故意扭曲現實以塑造輿論并贏得那些信任他人的公民的心。
04?關于軍事行動中不道德使用AI和虛假信息的立場
由于人工智能和虛假信息的廣泛使用且尚未得到監管，在維護國際安全的各個國際組織和公共論壇中都引發了一場尚無定論的爭論。在其中，支持和反對在軍事行動中使用人工智能和/或虛假信息的人的立場發生了沖突。
4.1 道德困境
例如，反對非法使用人工智能的人士認為，人類永遠不應該將生死攸關的決定權交給計算機，這不僅對任何國際行為體的潛在敵人構成威脅，而且對整個人類構成威脅。不知何故，對許多人而言，世界大國使用致命性自主武器已經超越了道德界限，改變了戰爭的性質。除此之外，還有一些需要解決的道德困境，例如人工智能的偏見、其在法律體系中的使用、其創造藝術的能力以及可能傷害人類的自主行動的可能性。這些人士尋求的在某種程度上是避免不受限制的暴行，“新軍事技術的發展和擴散導致了幾場系統性戰爭中出現了無法預料的殘酷性”，這一觀點已開始在關于21世紀沖突的理論和實踐中得到體現。
4.2 回旋鏢效應（Boomerang Effect）
反對將信息用作武器的人認為，這可能會創造一個基于多重真相的虛構世界，這可能會使人們最終難以識別真正的事實。這可能會產生“回旋鏢效應”（boomerang effect），即謊言的傳播可能會導致人們被謊言所信服并扭曲現實，直到其陷入信息困境。此外，根據國際研究，人工智能正在推動虛假內容的生成，而這些虛假內容正值各國際行為體發展、繁榮和尋求安全的關鍵時刻。反對者指出，這種新興技術有助于制造威脅人民、機構和政府完整性和安全性的深度偽造品。
在這種情況下，作為該論點的證據，2023年10月，聯合國秘書長對人工智能可能造成的危害表示擔憂，其中包括虛假信息、偏見、歧視、持續監視、侵犯隱私、欺詐和其他侵犯人權行為。這些事件將人們的生存和完整性置于危險之中，并證明了人工智能如何擴大個人或政府手中敏感信息的使用。此外，有人認為，人工智能的使用缺乏道德規范，這可能會侵犯人權，甚至使人類成為自身創造的受害者。
4.3 趨利避害
AI推動了技術研發的進步，也是生成虛假新聞的極其有用的工具。在自動化和數字化盛行的條件下，不可否認的是，當人工智能用于進步時，其促進了全球目標追求，并推動了技術研發的進步。然而，當人工智能被用來破壞治理時，其會產生阻力、不信任、沖突、混亂和不確定性。此外，很明顯，人工智能增強了數據庫和信息的使用，極大地影響了話語和敘事的構建，無論是好是壞。換句話說，人工智能是生成虛假新聞的極其有用的工具，是當今有效的武器。正是這種潛在的非法使用促使國際社會發出聲音，尋求有效的答案和解決方案，以減輕技術和虛假信息在當前沖突中造成的負面影響。
4.4 防患于未然
AI或可預見沖突并采取先發制人的行動。支持在21世紀沖突中使用人工智能和虛假信息的人認為，人類有能力控制技術發展，并使其受到人工操作者的監督。在武裝沖突的背景下，有人聲稱人工智能可以預見未來的沖突并采取先發制人的行動，這讓人想起科幻電影《少數派報告》，其中的預防犯罪能力通過在實施計劃之前讀取未來受害者的思想來防止犯罪發生。然而，必須注意的是，系統總是存在故障的可能性。
虛假信息無需戰爭即可擊敗敵人是一項既定的戰略原則。同樣，部分國際社會支持將虛假信息用作戰爭工具，因為其能給使用者帶來好處。例如，它可以改變觀念、促進行動、防止重大損失、既具有進攻性又具有防御性、提高士氣、隱藏意圖、構建現實并允許出其不意地采取行動。這些方面有助于減少人員傷亡和長期沖突的高昂代價。根據支持將虛假信息用作戰爭武器的人的說法，這可以贏得社會民心，無需戰斗即可擊敗敵人，并有效實現既定目標，這是一項得到廣泛認可的戰略原則，盡管國際社會發生了變化，但這一原則仍然具有現實意義?？梢钥隙ǖ卣f，這場辯論將會繼續，國際環境將繼續塑造21世紀沖突所需的新法律框架。隨著這場討論的展開，人工智能和虛假信息仍將是當今沖突中開展軍事行動的關鍵手段。此外，二者將成為本世紀戰爭戰略變革的關鍵驅動力。
05?結論
世界正在經歷數字化轉型，生產、行政、政治和政府活動也正實現自動化。這一演變使發動戰爭的手段重新配置，將人工智能和虛假信息納入武器庫。此外，大型科技公司在沖突中發揮了關鍵作用，改變了軍事戰略和戰術，給國際體系帶來了新挑戰。
各種武裝部隊和武裝沖突參與者在戰場上使用人工智能已成為常態，而人類并未充分意識到其對直接參與者和整個國際社會的影響。文章認為，人工智能和虛假信息已成為21世紀戰爭的典型武器；然而，由于存在升級風險，彰顯機器優于人類的性質，因此引發了大量問題和擔憂。這引發了“是人類控制著人工智能，還是人工智能控制著人類”的疑問？這也將在未來幾年和未來沖突中得到解答。
管理信息或處理虛假信息沒有單一的正確方法。文章認為，人類對抗虛假信息影響的最佳武器是批判性思維、社會良知、信念和堅守原則的力量。歸根結底，尋求真相是一項未完成的、包容性的工作；真相是動態的，由所有參與者共建。值得注意的是，面對虛假信息，最薄弱的環節是人類，因為人類本身就存在缺陷和脆弱性。特別是，個人通常從不完整、不準確、不可靠和難以核實的信息中構建現實，訴諸思維捷徑以掩飾自己的不足。這導致人們做出錯誤、不合理且可能被操縱的決定。
在這個混亂且日益危險的環境中，信息或虛假信息已被用于制造爭議、操縱思想、抹黑政治人物、制造社會分裂、掩蓋真實目標、成為發動戰爭的手段，當然，還被用作高影響力武器。其中甚至還有道德和政治挑戰需要解決。如何規范用于訓練人工智能的私人數據和世界人口信息，防止人工智能被用于暗殺人民、違反國際法、制造可信的謊言或替代現實以及發動戰爭，仍有待確定。
參考文獻：
https://ceeep.mil.pe/2024/08/15/inteligencia-artificial-y-desinformacion-papel-en-los-conflictos-del-siglo-xxi/?lang=en