近日,谷歌研究人員關(guān)于人工智能的研究又取得新進(jìn)展。他們開發(fā)出“單次學(xué)習(xí)”技術(shù),即機(jī)器學(xué)習(xí)不再需要大量的例子學(xué)會一件事,僅通過一個例子就能認(rèn)出圖像中的物體。研究人員稱,他們對深度學(xué)習(xí)算法進(jìn)行了一些調(diào)整,從而達(dá)到了這樣的效果。
在人工智能研究高歌猛進(jìn)的時(shí)候,國際安全極客大賽GeekPwn(極棒)以敏銳的科技洞察力,成為首個大范圍探索人工智能與專業(yè)安全領(lǐng)域的平臺,發(fā)問人工智能:它真的是那么強(qiáng)大且安全的嗎?如果我們做一些微小的調(diào)整,會不會得出與“單次學(xué)習(xí)”相反的結(jié)果?
?
對抗性攻擊使機(jī)器學(xué)習(xí)“指車為船”
當(dāng)人們處處推崇機(jī)器學(xué)習(xí)的強(qiáng)大性能時(shí),畢業(yè)于斯坦福大學(xué),專業(yè)研究數(shù)據(jù)挖掘與人工智能,師從人工智能大師吳恩達(dá)的Clarence Chio則注意到深度學(xué)習(xí)的漏洞。Clarence Chio在10月24日GeekPwn2016嘉年華上,分享了他對于人工智能安全性的最新研究觀點(diǎn),他表示,我們可以通過對抗性攻擊,觸發(fā)機(jī)器學(xué)習(xí)的模型,讓它做出錯誤的決策。
同樣,來自O(shè)penAi的生成式對抗性網(wǎng)絡(luò)的發(fā)明者Ian Goodfellow、谷歌大腦軟件工程師團(tuán)隊(duì)的核心成員Alexey Kurakin,在GeekPwn2016嘉年華硅谷站,也分享了他們關(guān)于對抗性圖像的研究。比如,通過在圖片中加入一些對抗性干擾,機(jī)器就有可能將一輛汽車看作一條船。
GeekPwn首創(chuàng)人工智能Pwn,用未來視角看安全
自圖靈提起“機(jī)器能否思考”的假說,如今已過去60多年。人們關(guān)于人工智能的研究也不斷取得突破,擊敗卡斯珀羅夫的IBM“深藍(lán)”被許多人視為人工智能研究的里程碑,谷歌AlphaGo大敗李世石,更是標(biāo)志著人工智能由“弱人工智能”向“超級人工智能”的高速進(jìn)化。
然而,人類似乎一直都是個矛盾體,一方面將人工智能應(yīng)用于各種領(lǐng)域“解放”人類,另一方面又恐懼人類被人工智能所代替或毀滅。《黑客帝國》《她》《終結(jié)者》等人工智能題材的電影,或多或少都體現(xiàn)了這種恐懼和擔(dān)憂。
作為全球首個探索人工智能與專業(yè)安全的平臺——極棒開創(chuàng)人工智能Pwn,關(guān)注到機(jī)器學(xué)習(xí)、視覺識別等人工智能最炙手可熱的技術(shù)安全研究,重新思考人工智能的安全問題,思考黑客在未來技術(shù)發(fā)展創(chuàng)新中所扮演的角色及作用。
萬物互聯(lián)皆可Pwn,將物聯(lián)網(wǎng)安全做到極致
據(jù)媒體公開報(bào)道,今年10月美國遭受到大規(guī)模DDOS攻擊,整個網(wǎng)絡(luò)陷入“癱瘓”,攻擊源頭則是智能家居產(chǎn)品組成的“僵尸物聯(lián)網(wǎng)”,即成千上萬的物聯(lián)網(wǎng)設(shè)備在黑客的控制下,大量發(fā)送通信請求,導(dǎo)致域名服務(wù)器癱瘓。
在GeekPwn2016嘉年華上海站,鳳凰解碼團(tuán)隊(duì)現(xiàn)場演示了操控智能插座發(fā)微博,形象的展示了物聯(lián)網(wǎng)設(shè)備被黑的后果。來自卡巴斯基的安全專家Denis Makrushin和Vladimir Dashchenko,也對“智能城市”公共設(shè)施安全隱患進(jìn)行了全面剖析。他們演示了從城市街道的終端設(shè)備,如自動售票機(jī)、移動設(shè)備充電站、公共支付端,到大部分支付服務(wù)的電腦終端,從市政廳到機(jī)場,從出租車后座顯示器到高速公路攝像頭等一系列破解。
自2014年舉辦以來,GeekPwn始終關(guān)注物聯(lián)網(wǎng)設(shè)備安全,從第一屆的智能門鎖、路由器破解到第二屆的無人機(jī)、POS機(jī)、智能攝像頭、O2O移動支付項(xiàng)目破解,再到今年的仿人機(jī)器人、智能插座、“手機(jī)的最后一道防線”TrustZone被攻破,GeekPwn幾乎把能“黑”的智能設(shè)備都“黑”了,將物聯(lián)網(wǎng)安全做到了極致。
做物聯(lián)網(wǎng)時(shí)代安全生態(tài)的連接平臺
極棒經(jīng)過三年發(fā)展,已經(jīng)搭建起一個安全人才,安全廠商之間相互促進(jìn),用技術(shù)推動物聯(lián)網(wǎng)安全生態(tài)發(fā)展的多維連接平臺。白帽黑客與廠商通過GeekPwn可以平等溝通。白帽黑客來到極棒不僅可以展示才華,更能“負(fù)責(zé)任的披露”,將產(chǎn)品漏洞提交給廠商,解決實(shí)際問題。面對日益嚴(yán)峻的網(wǎng)絡(luò)安全形勢,來自外部安全社區(qū)的力量不可忽視,白帽黑客為智能安全帶來了新思路,在提高產(chǎn)品安全上更具啟發(fā)性。
極棒將繼續(xù)貼近生活,關(guān)注物聯(lián)網(wǎng)安全,同時(shí)也將極端面向未來。在首次嘗試人工智能Pwn后,王琦表達(dá)了極棒的未來目標(biāo):“極棒將繼續(xù)引領(lǐng)創(chuàng)新,引導(dǎo)有才華橫溢的極客發(fā)現(xiàn)一些更未來的問題,做一些更前沿的東西。”