“深度偽造”的第一個大規模應用：色情機器人
責編：gltian ｜2020-10-23 11:11:02“深度偽造”（DeepFake）被認為是最危險的人工智能技術之一，可廣泛應用于業務欺詐、輿論操縱、社會工程等多個犯罪領域。但是直到最近，深度偽造技術才有了第一個大規模應用：深度偽造色情機器人（DeepNude）。
根據英國Wired雜志報道，自今年7月份以來，至少有10.4萬名婦女受到即時通訊應用Telegram上運行的深度偽造機器人DeepNude的攻擊，受害人數之多令人震驚。每個月都有成千上萬的人使用DeepNude來創建朋友和家人的裸照，其中一些人不到18歲。
據報道，DeepNude能用AI技術“去除”衣服，雖然有些合成照片看上去有瑕疵，但是有些照片可以以假亂真。該機器人每天都會向相關的Telegram頻道發送包含大量“裸體”女性照片的圖庫。而推廣該機器人程序的Telegram頻道也已經擁有50,000多名訂閱者，
DeepFake檢測公司Sensity的首席執行官兼科學家Giorgio Patrini說：“這是我們第一次看到深度偽造的大規模應用。”該公司正計劃公布其調查結果，以迫使平臺刪除相關深度偽造內容和頻道。
深度偽造機器人侵害的女性實際人數可能遠遠超過10.4萬，因為Sensity給出的這一數據僅涵蓋了公開共享的圖像，而該機器人還向私人提供照片制作功能。
DeepNude的很多Telegram頻道都是俄文，但也提供英語翻譯，Sensity補充說，很多偽造圖片的目標都是18歲以下的女孩。
據稱DeepNude的使用非常簡單，無需任何技術知識，任何人都可以把女性照片上傳到相關頻道，偽造過程是完全自動化的。Sensity的分析師指出，目前這項技術僅適用于女性。該機器人的使用是免費的，但限制每天每人僅能處理10張照片，而且需要付款才能刪除水印，一個高級版本的112張圖像售價約為8美元。
邁阿密大學法學教授瑪麗·安妮·弗蘭克斯（Mary Anne Franks）說：“這令人沮喪，我們對深度偽造技術的恐懼已經變成現實。”
一個更加可怕的現實是：即使您從未擺拍裸照，也從未與某人共享任何私密數據，也會成為受害者，不肖之徒所需要的只是一張您的臉部照片。
Vice在2019年6月首次報道了DeepNude，其最初的開發者出于濫用的擔憂而終止了該軟件項目，但短短數天內該程序的下載量就達到了95,000。DeepNude的代碼被快速備份并復制。DeepNude軟件使用深度學習和生成對抗網絡來生成受害者的裸體圖片。其AI算法在一組女性裸體圖像數據上受過訓練，能夠在最終圖像中合成身體部位。
Telegram方面并沒有回答有關色情機器人及其產生的惡意圖像的問題。Sensity的報告還稱，該公司幾個月前向Telegram報告該機器人及其傳播渠道時平臺方面并沒有做出回應。但是根據Telegram的服務條款，人們不應“在可公開查看的Telegram頻道中發布非法色情內容”。
除了Telegram，DeepNude還在俄羅斯社交媒體網絡VK上快速傳播。Sensity的報告指出，已經在VK上發現了大量的Deepfake內容，并且DeepNude還在該網站上有專門的頁面。VK的一位發言人說：“不容忍平臺上的這種行為”，并且“永久性地封鎖了這個社區”。
自從2017年底深度偽造軟件誕生以來，其主要用途就是虐待婦女。在過去的一年中，由于成本和技術門檻不斷降低，其應用呈指數級增長。Sensity之前的一項研究發現，2019年7月網上有14,678個深度偽造視頻。而到今年6月，這一數字激增至49,081。幾乎所有這些視頻都是針對女性的色情內容。
今年八月，《連線》雜志報道了深度偽造色情影片如何成為主流。每個月有1000多個虐待視頻被上傳到全球最大的色情網站。一部由女演員艾瑪·沃特森（Emma Watson）的臉“拼裝”的30秒視頻被發布到XVideos和Xnxx上，瀏覽量超過3000萬次。事情曝光后，xHamster從其網站上清理了數十個深度偽造視頻。
由機器人生成圖像的技術突破將假冒濫用行為推向了危險的新領域。Telegram機器人并不是在野外使用DeepNude系統的唯一案例。Google Play應用商店的某些應用程序也可以對照片進行像素化處理，將日常照片變成裸照。此外，還有一些不法網站提供付費的深度偽造技術服務，甚至還提供每月20美元的訂閱服務。
更加讓人擔心的是，雖然DeepNude最初的開發者已經終止項目并刪除了項目代碼，但是DeepNude代碼的多個版本仍可在微軟旗下GitHub上公開獲得。在撰寫本文時，兩個DeepNude代碼集上周剛剛更新，提供的指導文檔可以讓任何懂點技術的人在不帶水印的情況下使用該代碼。
參考資料
A Deepfake Porn Bot Is Being Used to Abuse Thousands of Women：
https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/