“深度偽造”(DeepFake)被認為是最危險的人工智能技術(shù)之一,可廣泛應(yīng)用于業(yè)務(wù)欺詐、輿論操縱、社會工程等多個犯罪領(lǐng)域。但是直到最近,深度偽造技術(shù)才有了第一個大規(guī)模應(yīng)用:深度偽造色情機器人(DeepNude)。
根據(jù)英國Wired雜志報道,自今年7月份以來,至少有10.4萬名婦女受到即時通訊應(yīng)用Telegram上運行的深度偽造機器人DeepNude的攻擊,受害人數(shù)之多令人震驚。每個月都有成千上萬的人使用DeepNude來創(chuàng)建朋友和家人的裸照,其中一些人不到18歲。
據(jù)報道,DeepNude能用AI技術(shù)“去除”衣服,雖然有些合成照片看上去有瑕疵,但是有些照片可以以假亂真。該機器人每天都會向相關(guān)的Telegram頻道發(fā)送包含大量“裸體”女性照片的圖庫。而推廣該機器人程序的Telegram頻道也已經(jīng)擁有50,000多名訂閱者,
DeepFake檢測公司Sensity的首席執(zhí)行官兼科學(xué)家Giorgio Patrini說:“這是我們第一次看到深度偽造的大規(guī)模應(yīng)用。”該公司正計劃公布其調(diào)查結(jié)果,以迫使平臺刪除相關(guān)深度偽造內(nèi)容和頻道。
深度偽造機器人侵害的女性實際人數(shù)可能遠遠超過10.4萬,因為Sensity給出的這一數(shù)據(jù)僅涵蓋了公開共享的圖像,而該機器人還向私人提供照片制作功能。
DeepNude的很多Telegram頻道都是俄文,但也提供英語翻譯,Sensity補充說,很多偽造圖片的目標都是18歲以下的女孩。
據(jù)稱DeepNude的使用非常簡單,無需任何技術(shù)知識,任何人都可以把女性照片上傳到相關(guān)頻道,偽造過程是完全自動化的。Sensity的分析師指出,目前這項技術(shù)僅適用于女性。該機器人的使用是免費的,但限制每天每人僅能處理10張照片,而且需要付款才能刪除水印,一個高級版本的112張圖像售價約為8美元。
邁阿密大學(xué)法學(xué)教授瑪麗·安妮·弗蘭克斯(Mary Anne Franks)說:“這令人沮喪,我們對深度偽造技術(shù)的恐懼已經(jīng)變成現(xiàn)實。”
一個更加可怕的現(xiàn)實是:即使您從未擺拍裸照,也從未與某人共享任何私密數(shù)據(jù),也會成為受害者,不肖之徒所需要的只是一張您的臉部照片。
Vice在2019年6月首次報道了DeepNude,其最初的開發(fā)者出于濫用的擔憂而終止了該軟件項目,但短短數(shù)天內(nèi)該程序的下載量就達到了95,000。DeepNude的代碼被快速備份并復(fù)制。DeepNude軟件使用深度學(xué)習(xí)和生成對抗網(wǎng)絡(luò)來生成受害者的裸體圖片。其AI算法在一組女性裸體圖像數(shù)據(jù)上受過訓(xùn)練,能夠在最終圖像中合成身體部位。
Telegram方面并沒有回答有關(guān)色情機器人及其產(chǎn)生的惡意圖像的問題。Sensity的報告還稱,該公司幾個月前向Telegram報告該機器人及其傳播渠道時平臺方面并沒有做出回應(yīng)。但是根據(jù)Telegram的服務(wù)條款,人們不應(yīng)“在可公開查看的Telegram頻道中發(fā)布非法色情內(nèi)容”。
除了Telegram,DeepNude還在俄羅斯社交媒體網(wǎng)絡(luò)VK上快速傳播。Sensity的報告指出,已經(jīng)在VK上發(fā)現(xiàn)了大量的Deepfake內(nèi)容,并且DeepNude還在該網(wǎng)站上有專門的頁面。VK的一位發(fā)言人說:“不容忍平臺上的這種行為”,并且“永久性地封鎖了這個社區(qū)”。
自從2017年底深度偽造軟件誕生以來,其主要用途就是虐待婦女。在過去的一年中,由于成本和技術(shù)門檻不斷降低,其應(yīng)用呈指數(shù)級增長。Sensity之前的一項研究發(fā)現(xiàn),2019年7月網(wǎng)上有14,678個深度偽造視頻。而到今年6月,這一數(shù)字激增至49,081。幾乎所有這些視頻都是針對女性的色情內(nèi)容。
今年八月,《連線》雜志報道了深度偽造色情影片如何成為主流。每個月有1000多個虐待視頻被上傳到全球最大的色情網(wǎng)站。一部由女演員艾瑪·沃特森(Emma Watson)的臉“拼裝”的30秒視頻被發(fā)布到XVideos和Xnxx上,瀏覽量超過3000萬次。事情曝光后,xHamster從其網(wǎng)站上清理了數(shù)十個深度偽造視頻。
由機器人生成圖像的技術(shù)突破將假冒濫用行為推向了危險的新領(lǐng)域。Telegram機器人并不是在野外使用DeepNude系統(tǒng)的唯一案例。Google Play應(yīng)用商店的某些應(yīng)用程序也可以對照片進行像素化處理,將日常照片變成裸照。此外,還有一些不法網(wǎng)站提供付費的深度偽造技術(shù)服務(wù),甚至還提供每月20美元的訂閱服務(wù)。
更加讓人擔心的是,雖然DeepNude最初的開發(fā)者已經(jīng)終止項目并刪除了項目代碼,但是DeepNude代碼的多個版本仍可在微軟旗下GitHub上公開獲得。在撰寫本文時,兩個DeepNude代碼集上周剛剛更新,提供的指導(dǎo)文檔可以讓任何懂點技術(shù)的人在不帶水印的情況下使用該代碼。
參考資料
A Deepfake Porn Bot Is Being Used to Abuse Thousands of Women:
https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/