在今年的RSAC2020創(chuàng)新沙盒大賽上,有一家公司雖然沒有染指冠軍,但是獲得了到場(chǎng)的周鴻祎、趙糧等中國(guó)網(wǎng)絡(luò)安全大佬的一致點(diǎn)贊。這家公司就是ForALLSecure。
ForAllSecure是由來自卡耐基梅隆大學(xué)的ForAllSecure安全研究團(tuán)隊(duì)于2012年創(chuàng)立的公司,創(chuàng)始人David Brumley、Thanassis Avgerinos和Alex Rebert均來自卡耐基梅隆大學(xué)并擁有相關(guān)專業(yè)背景。公司在A輪融資中獲得1500萬美元,由New Enterprise Associates領(lǐng)投。
ForAllSecure主打“下一代”模糊測(cè)試技術(shù),并基于此技術(shù)實(shí)現(xiàn)模糊測(cè)試系統(tǒng)Mayhem,在美國(guó)國(guó)防部先進(jìn)項(xiàng)目研究局(DARPA)2016年主辦的網(wǎng)絡(luò)超級(jí)挑戰(zhàn)賽(CGC)中,Mayhem一戰(zhàn)成名贏得了200萬美元的最高獎(jiǎng)金,參賽服務(wù)器被史密森尼博物館收藏。
2017年,F(xiàn)orAllSecure被《麻省理工科技評(píng)論》選入“全球最聰明的50家公司”榜單(位列第35名)。
如今,距離人工智能最火爆的2016年已經(jīng)過去四年,人工智能燥熱消退,泡沫破裂,包括IBM沃森在內(nèi)的曾經(jīng)萬眾矚目的人工智能項(xiàng)目都面臨前所未有的瓶頸和困局,作為網(wǎng)絡(luò)安全乃至人工智能界的“第一代網(wǎng)紅”,Mayhem的商業(yè)化發(fā)展是否順利?今天的Mayhem到底是學(xué)術(shù)界的玩物,還是真的能夠成為業(yè)界一大殺器?
下一代模糊測(cè)試技術(shù)
根據(jù)綠盟科技的RSAC2020大會(huì)現(xiàn)場(chǎng)報(bào)道和點(diǎn)評(píng),F(xiàn)orAllSecure公司目前提供Mayhem模糊測(cè)試解決方案,將自動(dòng)化持續(xù)性安全測(cè)試融入DevOps流程,力求在早期發(fā)現(xiàn)漏洞、修復(fù)漏洞,以提高軟件安全性。與傳統(tǒng)模糊測(cè)試技術(shù)相比,該“下一代”模糊測(cè)試技術(shù)結(jié)合使用“符號(hào)執(zhí)行”技術(shù)和“導(dǎo)向型模糊測(cè)試”技術(shù),能夠針對(duì)測(cè)試發(fā)現(xiàn)的安全漏洞自動(dòng)化生成概念性驗(yàn)證(PoC)和補(bǔ)丁,在一定程度上避免傳統(tǒng)白盒測(cè)試的高誤報(bào)和黑盒測(cè)試的盲目性,具有很高的創(chuàng)新性和價(jià)值。
綠盟總結(jié)了Mayhem的五個(gè)特點(diǎn)如下:
五角大樓的訂單
那么,廣受贊譽(yù)和矚目的Mayhem下一代模糊測(cè)試技術(shù),在實(shí)際應(yīng)用中的表現(xiàn)如何?
去年底,互聯(lián)網(wǎng)基礎(chǔ)設(shè)施公司Cloudflare開始用Mayhem測(cè)試其網(wǎng)站圖片壓縮軟件(Cloudflare向云計(jì)算客戶提供的圖片壓縮和網(wǎng)站加速工具),結(jié)果發(fā)現(xiàn)Mayhem生成了一種“邪惡的”,由黑灰像素組成的圖片(編者按:類似對(duì)抗性樣本),能夠?qū)е聢D片壓縮軟件崩潰,這是過去傳統(tǒng)的安全測(cè)試難以發(fā)現(xiàn)的bug。
自那以后,Cloudflare開始將Mayhem作為安全工具的標(biāo)準(zhǔn)部分。
但真正讓Mayhem在安全測(cè)試領(lǐng)域登堂入室的,是來自美國(guó)軍方的一個(gè)大額訂單。五角大樓上個(gè)月與ForAllSecure簽訂了一份價(jià)值4500萬美元的合同,以擴(kuò)大Mayhem在美軍中的使用范圍,因?yàn)檐姺接刑嘬浖ug急需一個(gè)“漏洞大殺器”。一份2018年度的美國(guó)政府工作報(bào)告發(fā)現(xiàn),美國(guó)國(guó)防部2012年至2017年之間測(cè)試的所有武器系統(tǒng)都存在嚴(yán)重的軟件漏洞。
即使在今天看來,Mayhem可能依然不夠成熟,并不足以完全替代人類漏洞獵人/分析師的工作,后者利用軟件設(shè)計(jì)知識(shí),代碼閱讀技能,創(chuàng)造力和直覺來發(fā)現(xiàn)漏洞。但是ForAllSecure聯(lián)合創(chuàng)始人兼首席執(zhí)行官David Brumley表示,Mayhem可以幫助人類專家完成更多工作。這個(gè)世界上的軟件有太多的安全漏洞,遠(yuǎn)遠(yuǎn)超出了專家的時(shí)間和精力,并且每分鐘都會(huì)發(fā)布更多的新漏洞??突仿〈髮W(xué)教授Brumley說:
所謂安全性不是安全或不安全,而是取決于你行動(dòng)的速度。
Brumley指出,Mayhem贏得DARPA CGC挑戰(zhàn)賽這種經(jīng)歷使他確信,從實(shí)驗(yàn)室走出來的Mayhem在現(xiàn)實(shí)世界中可能會(huì)有用。
但值得注意的是,在商業(yè)化道路上,Brumley選擇擱置Mayhem的“紅隊(duì)”攻擊能力,重點(diǎn)對(duì)自動(dòng)防御能力進(jìn)行商業(yè)化。
網(wǎng)絡(luò)大挑戰(zhàn)賽表明完全自主的安全性是可能的。計(jì)算機(jī)可以做得相當(dāng)不錯(cuò)。
中國(guó)和以色列政府也是這樣認(rèn)為的,兩者都向ForAllSecure提供了合同,但是ForAllSecure最后選擇了山姆大叔——今年5月份與五角大樓的國(guó)防創(chuàng)新部門(DIU)簽訂了合同,該部門試圖將新興網(wǎng)絡(luò)安全技術(shù)快速引入美國(guó)軍方。
在軍方“上班第一天”,Mayhem就面臨一個(gè)頗具挑戰(zhàn)性的任務(wù)——在美軍使用商用客機(jī)控制軟件尋找漏洞。結(jié)果Mayhem只花了幾分鐘,就發(fā)現(xiàn)了一個(gè)漏洞,該漏洞隨后由飛機(jī)制造商進(jìn)行了驗(yàn)證和修復(fù)。
Mayhem發(fā)現(xiàn)的其他錯(cuò)誤包括今年早些時(shí)候在數(shù)百萬個(gè)網(wǎng)絡(luò)設(shè)備中使用的OpenWRT軟件中的嚴(yán)重漏洞。去年秋天,F(xiàn)orAllSecure的兩名實(shí)習(xí)生使用Mayhem從手機(jī)分享視頻到電視的軟件中查找到漏洞并斬獲了Netflix的漏洞賞金。
Brumley說,汽車和航空航天公司對(duì)Mayhem的興趣也特別強(qiáng)烈。汽車和飛機(jī)越來越依賴于軟件,這些軟件需要可靠地運(yùn)行多年,并且很少更新(如果有的話)。
未來:Cyborg還是純AI?
目前,Mayhem僅適用于基于Linux的操作系統(tǒng)的程序,并以兩種方式發(fā)現(xiàn)漏洞,一種是分散的(模糊測(cè)試),另一種是針對(duì)性的。
第一種是稱為模糊測(cè)試的技術(shù),它涉及用隨機(jī)生成的輸入(例如命令或照片)轟擊目標(biāo)軟件,并觀察是否有任何觸發(fā)可利用的bug。第二種方法稱為符號(hào)執(zhí)行,涉及創(chuàng)建目標(biāo)軟件的簡(jiǎn)化數(shù)學(xué)表示。
查找軟件bug這種工作,計(jì)算機(jī)可以做得很好。
——FORALLSECURE聯(lián)合創(chuàng)始人兼首席執(zhí)行官DAVID BRUMLEY
近年來,模糊測(cè)試已越來越廣泛地用于計(jì)算機(jī)安全中。去年,谷歌發(fā)布了一個(gè)模糊測(cè)試工具ClusterFuzz,聲稱已經(jīng)在其Chrome瀏覽器中發(fā)現(xiàn)了超過16,000個(gè)錯(cuò)誤。但是Cloudflare的安全工程師Haynes認(rèn)為,該技術(shù)在行業(yè)中仍然不常用,因?yàn)槟:郎y(cè)試工具通常需要對(duì)每個(gè)目標(biāo)程序進(jìn)行非常仔細(xì)的調(diào)整。相比之下Mayhem的適應(yīng)性更強(qiáng),從而使Cloudflare可以以更常規(guī)的方式進(jìn)行模糊測(cè)試。Haynes說,符號(hào)執(zhí)行可以發(fā)現(xiàn)更復(fù)雜的錯(cuò)誤,以前主要在研究實(shí)驗(yàn)室中使用。
亞利桑那州立大學(xué)王若宇教授表示, Mayhem僅僅是計(jì)算機(jī)安全自動(dòng)化未來的開始,尋找bug的機(jī)器人需要與人類進(jìn)行更多的協(xié)作。
王教授指出,Mayhem已經(jīng)證明了安全自動(dòng)化技術(shù)可以做有用的工作,但是現(xiàn)有的自動(dòng)漏洞查找工具對(duì)于復(fù)雜的互聯(lián)網(wǎng)服務(wù)或軟件包并沒有太大幫助。最好的軟件也還遠(yuǎn)遠(yuǎn)不夠智能,無法像人們一樣理解程序的意圖和功能。但是,Mayhem能夠比人類更快地嘗試許多不同測(cè)試數(shù)據(jù)的能力也是無可替代的?!白詣?dòng)找到漏洞的許多難題短期內(nèi)很難解決?!蓖踅淌谡f道。
王若宇教授是Mechanical Phish團(tuán)隊(duì)的成員,該團(tuán)隊(duì)在Mayhem奪冠的2016年Darpa錦標(biāo)賽中排名第三。現(xiàn)在,他正在研究DARPA的一個(gè)新項(xiàng)目——CHESS(The Computers and Humans Exploring Software Security),試圖開發(fā)更強(qiáng)大的漏洞發(fā)現(xiàn)軟件,該漏洞發(fā)現(xiàn)軟件可以利用人類的幫助來解決機(jī)器無法正常運(yùn)行的問題。
目前,最先進(jìn)的自動(dòng)化漏洞查找技術(shù)的問題是不知道自己是否碰到不可逾越的障礙,并選擇向人類咨詢。今天,Mayhem以單打獨(dú)斗的方式尋找漏洞,但其后繼產(chǎn)品應(yīng)當(dāng)是團(tuán)隊(duì)協(xié)作模式。
參考資料:
This Bot Hunts Software Bugs for the Pentagon:
https://www.wired.com/story/bot-hunts-software-bugs-pentagon/?bxid=5cc9e1c42ddf9c1a7adec2b7