亞馬遜、微軟因開發AI殺手令世界陷于風險之中
責編：gltian ｜2019-08-28 13:36:10近日，針對致命性自治武器立場的一項調查研究發現，亞馬遜、微軟和英特爾等主流科技公司，因開發殺手機器人而將世界置于危險境地。
荷蘭非政府組織 Pax 根據以下三個標準給 50 家公司做了排名：是否在開發與致命人工智能 (AI) 相關的技術；是否參與相關軍事項目；未來有無退出打算。
報告主要作者 Frank Slijper 稱：為什么微軟和亞馬遜這樣的公司不否認當前正在開發這些極具爭議的武器？這些武器可是很可能不用人類直接干預就能作出殺人決定的。
近些年來，武器系統運用 AI 自主選擇和攻擊目標的話題引發了倫理大討論。批評家警告稱，此類殺人 AI 將會危害國際安全，預示著戰爭形態將繼火藥和原子彈之后迎來第三次變革。
8 月 21 日，在日內瓦召開的聯合國《特定常規武器公約》會議上，政府專家小組討論了致命性自治武器的政策選項。
谷歌于去年公布了避免 AI 用于武器系統的指導性原則，因而入選該涵蓋 12 國的調查分析中踐行 “最佳實踐” 的七家公司之列，以 Pepper 仿真機器人聞名的日本軟銀也在此列。
22 家公司歸屬于 “中度危險” 范疇，21 家落入 “高度危險” 類別，其中亞馬遜和微軟正在競標國防部 100 億美元云基礎設施合約。
落入 “高度危險” 范疇的其他公司包括 Palantir——一家根植于美國中央情報局 (CIA) 背景風險資本的公司，獲得了 8 億美元 AI 系統合約。該 AI 系統若研制成功，將可幫助美國士兵實時分析戰場情況。
8 月 21 日，加州大學伯克利分校計算機科學教授 Stuart Russell 接受法新社 (AFP) 采訪時表示：自治武器無疑將成為可擴展的大規模殺傷性武器，因為只要決策環中摘除了人的部分，那一個人就可以觸發 100 萬乃至上億自治武器。
自治武器將交由企業開發，若想阻止自治武器泛濫，他們在其中扮演的角色就很重要了。
軍用 AI 的開發已引起業內廣泛爭論與抗議：去年谷歌拒絕續約美國國防部 Project Maven 人工智能項目，不再幫助美國軍方利用機器學習分辨無人機視頻中的人和物體。
該公司還退出了聯合企業防御基礎設施 (JEDI) 的運營，而亞馬遜和微軟正爭取替代谷歌在該合約中的位置。
報告指出，微軟員工也表達了對美國陸軍一份合約的抗議，該合約標的物是微軟頭戴式增強現實全息眼鏡 HoloLens，旨在增強戰場上的致命性。
自治武器什么樣
當前的任何武器，不管是坦克、戰斗機，還是潛艇，人們都在開發自治版本。
以色列的 Harpy 就是已面世的自治無人機，游蕩在目標空域，伺機選擇打擊位置。
更令人擔憂的，是尚未出現的新型自治武器，比如 2017 年短片《殺戮無人機》(Slaughterbots) 中刻畫的那種迷你武裝無人機。
有了這種武器，你用集裝箱或貨機運送 100 萬架過去——它們的殺傷力堪比原子彈，卻不會損毀任何建筑物，只殺人。
采用人臉識別技術，這些無人機 “可以清洗某個民族或某個性別，或者利用社交媒體信息完全抹殺持某種政見的人”。
今年 4 月，歐盟公布了公司和政府應如何開發 AI 的指南，包括需人類監管、以非歧視的方式造福社會和環境，以及尊重隱私。
Russell表示，有必要采取進一步措施設立致命性 AI 國際禁令，簡言之就是 “不能開發、部署或使用可做出殺人決策的機器。”
Pax 調查研究報告鏈接：