有什么即將到來?
美國眾議院國土安全委員會 (US House Committee on Homeland Security) 成立了一個(gè)專家小組,研究其它國家如何利用人工智能、量子計(jì)算等新興技術(shù),打造網(wǎng)絡(luò)攻擊的武器。
“新技術(shù)的迅速發(fā)展正在改變世界”,國土安全部網(wǎng)絡(luò)安全、基礎(chǔ)設(shè)施保護(hù)和安全技術(shù)小組委員會主席 Cedric Richmond (D-LA) 在近期表示。
不幸的是,一個(gè)人的工具是另一個(gè)人的武器。俄羅斯、伊朗、朝鮮等有經(jīng)驗(yàn)的民族主義國家已經(jīng)開始在逐步將新技術(shù)武器化,以擾亂我們的民主,危害我們的國家安全,破壞我們的經(jīng)濟(jì)。隨著技術(shù)的進(jìn)步,他們利用技術(shù)對付我們的能力也會提高。
Richmond 與眾議院國土安全委員會主席 Bennie Thompson (D-MS) 共同主持了聽證會。這兩人特別關(guān)注俄羅斯的不法分子通過所謂的深度偽造 (deepfakes) 技術(shù)——一種利用機(jī)器學(xué)習(xí)算法生成的偽造音頻和/或視覺內(nèi)容,在網(wǎng)上傳播虛假信息,擾亂即將到來的 2020 年總統(tǒng)大選。
這家被稱為俄羅斯 “巨魔農(nóng)場” ( Russia’s troll farm) 的互聯(lián)網(wǎng)研究機(jī)構(gòu)在 Twitter 等社交媒體上創(chuàng)建了成千上萬的機(jī)器人賬戶,在 2016 年大選中傳播虛假的宣傳內(nèi)容。最近,政客們也成了深度偽造攻擊的犧牲品,在這種攻擊中,他們的肖像被操縱去說出和做出一些他們實(shí)際上沒有做過的事情。因此,擔(dān)心下一波虛假社交媒體賬戶將在不遠(yuǎn)的將來出現(xiàn)和傳播深度偽造信息并非毫無道理。
專家們正忙于研究克里姆林宮的虛假信息宣傳在 2016 年總統(tǒng)大選中對選民的影響。作為這項(xiàng)研究工作的一部分,Twitter 上周發(fā)布了一個(gè)數(shù)據(jù)集,其中包含 1000 多萬條來自疑似傀儡賬戶的推文。
Jim Langevin(D-RI) 指出,莫斯科對競選活動的干預(yù) “計(jì)劃得非常好”。虛假賬戶在使用前幾個(gè)月就被建立了。有一個(gè)主要的團(tuán)隊(duì)負(fù)責(zé)制造虛假內(nèi)容,另一個(gè)更大的團(tuán)隊(duì)負(fù)責(zé)轉(zhuǎn)發(fā)虛假信息,最后相信這些消息的真人通過轉(zhuǎn)發(fā)進(jìn)一步對信息進(jìn)行傳播。
前賽門鐵克 (注:其企業(yè)安全業(yè)務(wù)及品牌已被博通收購) 全球政府事務(wù)及網(wǎng)絡(luò)安全高級策略師 Ken Durbin 在聽證會上作證時(shí)對此表示同意。他還警告稱,深度偽造不僅對政客構(gòu)成威脅,對企業(yè)也有潛在的危險(xiǎn)。
虛假視頻,照片,錄音或電子郵件之類的內(nèi)容對個(gè)人以及整個(gè)組織機(jī)構(gòu)都構(gòu)成了嚴(yán)重的風(fēng)險(xiǎn)。想象一下,一位深度偽造的首席執(zhí)行官宣布了一系列裁員,或者指示員工竊取資金或知識產(chǎn)權(quán)。這會影響他們的股價(jià)。
開發(fā)者們正在進(jìn)行一場競賽,找出能夠檢測到深度偽造的新策略。Facebook 和谷歌都編制了由人工智能生成的圖像和視頻組成的數(shù)據(jù)集,以幫助研究人員訓(xùn)練檢測模型。一些科學(xué)家正在嘗試更深奧的方法。
商業(yè)間諜,還有量子計(jì)算?
量子計(jì)算的威脅則沒有那么明顯。谷歌和 IBM 目前正在為所謂的量子霸權(quán)爭論不休,盡管議員們在聽證會上討論的能力感覺像是有光年之遙。目前大眾所知的量子計(jì)算機(jī)還沒有那么強(qiáng)大。Thompson 表示,最重要的是,明確哪些國家是敵人。
我們知道,有些國家從事情報(bào)收集和經(jīng)濟(jì)間諜活動,并成功滲透了(政府雇員)、海軍承包商以及從酒店到研究機(jī)構(gòu)的非政府實(shí)體。我們還知道,這些國家正在大力投資發(fā)展量子計(jì)算能力,這可能在未來 10 年內(nèi)破壞加密的安全性。
對于敏感數(shù)據(jù),人們通常使用加密算法對其進(jìn)行加密,使對手很難在沒有必要密鑰的情況下截獲和恢復(fù)數(shù)據(jù)。量子計(jì)算機(jī)理論上可以破解這些加密算法來解密機(jī)密信息,但據(jù)我們所知,這些東西并不存在,在一段時(shí)間內(nèi)也不會存在。與此同時(shí),科學(xué)家們已經(jīng)在開發(fā)后量子算法了。
當(dāng)然,更現(xiàn)實(shí)的威脅是經(jīng)典的網(wǎng)絡(luò)釣魚攻擊,它們被用來洗劫私人承包商、竊取軍事機(jī)密或干擾電網(wǎng)。該委員會還考慮了勒索軟件攻擊,這些攻擊竊取了數(shù)百萬數(shù)字加密貨幣,并表示各機(jī)構(gòu)之間缺乏信息共享是一個(gè)問題。
“我們很少知道發(fā)生了什么”,東北大學(xué) (Northeastern University) 全球恢復(fù)力研究所 (Global Resilience Institute) 的高級研究科學(xué)家 Robert Knak 在聽證會上表示。保密文化降低了企業(yè)和政府抵御企業(yè)間諜活動的能力。
Knake 呼吁在企業(yè)和政府之間建立 “協(xié)作防御” 伙伴關(guān)系。
二十年來,伙伴關(guān)系一直是我們國家網(wǎng)絡(luò)安全政策的核心原則,現(xiàn)在需要把這種關(guān)系發(fā)展為實(shí)時(shí)的業(yè)務(wù)協(xié)作關(guān)系為了實(shí)現(xiàn)這一目標(biāo),我們需要合作平臺,讓處于合作關(guān)系的成員能夠相互信任。政府需要相信它共享的情報(bào)將受到保護(hù),而且只有在適當(dāng)和安全的情況下才會被共享。但是私人企業(yè)在與政府共享和彼此共享時(shí),需要相同級別的保證。
他還呼吁政府,應(yīng)該幫助美國私企打造更強(qiáng)大的應(yīng)對以商業(yè)間諜為目的的網(wǎng)絡(luò)攻擊能力。甚至,他警告稱,在美國銷售的零部件,無論是網(wǎng)絡(luò)設(shè)備還是智能手機(jī),都應(yīng)該在美國本土或盟國生產(chǎn)。
New America 網(wǎng)絡(luò)安全計(jì)劃 (Cybersecurity Initiative) 高級研究員尼 Niloofar Razi Howe,一位美國國家級專家進(jìn)一步補(bǔ)充道:必須對可能與我們的對手進(jìn)行共謀的科技公司進(jìn)行監(jiān)管。