近日,谷歌研究人員關于人工智能的研究又取得新進展。他們開發(fā)出“單次學習”技術,即機器學習不再需要大量的例子學會一件事,僅通過一個例子就能認出圖像中的物體。研究人員稱,他們對深度學習算法進行了一些調(diào)整,從而達到了這樣的效果。
在人工智能研究高歌猛進的時候,國際安全極客大賽GeekPwn(極棒)以敏銳的科技洞察力,成為首個大范圍探索人工智能與專業(yè)安全領域的平臺,發(fā)問人工智能:它真的是那么強大且安全的嗎?如果我們做一些微小的調(diào)整,會不會得出與“單次學習”相反的結果?
?
對抗性攻擊使機器學習“指車為船”
當人們處處推崇機器學習的強大性能時,畢業(yè)于斯坦福大學,專業(yè)研究數(shù)據(jù)挖掘與人工智能,師從人工智能大師吳恩達的Clarence Chio則注意到深度學習的漏洞。Clarence Chio在10月24日GeekPwn2016嘉年華上,分享了他對于人工智能安全性的最新研究觀點,他表示,我們可以通過對抗性攻擊,觸發(fā)機器學習的模型,讓它做出錯誤的決策。
同樣,來自OpenAi的生成式對抗性網(wǎng)絡的發(fā)明者Ian Goodfellow、谷歌大腦軟件工程師團隊的核心成員Alexey Kurakin,在GeekPwn2016嘉年華硅谷站,也分享了他們關于對抗性圖像的研究。比如,通過在圖片中加入一些對抗性干擾,機器就有可能將一輛汽車看作一條船。
GeekPwn首創(chuàng)人工智能Pwn,用未來視角看安全
自圖靈提起“機器能否思考”的假說,如今已過去60多年。人們關于人工智能的研究也不斷取得突破,擊敗卡斯珀羅夫的IBM“深藍”被許多人視為人工智能研究的里程碑,谷歌AlphaGo大敗李世石,更是標志著人工智能由“弱人工智能”向“超級人工智能”的高速進化。
然而,人類似乎一直都是個矛盾體,一方面將人工智能應用于各種領域“解放”人類,另一方面又恐懼人類被人工智能所代替或毀滅。《黑客帝國》《她》《終結者》等人工智能題材的電影,或多或少都體現(xiàn)了這種恐懼和擔憂。
作為全球首個探索人工智能與專業(yè)安全的平臺——極棒開創(chuàng)人工智能Pwn,關注到機器學習、視覺識別等人工智能最炙手可熱的技術安全研究,重新思考人工智能的安全問題,思考黑客在未來技術發(fā)展創(chuàng)新中所扮演的角色及作用。
萬物互聯(lián)皆可Pwn,將物聯(lián)網(wǎng)安全做到極致
據(jù)媒體公開報道,今年10月美國遭受到大規(guī)模DDOS攻擊,整個網(wǎng)絡陷入“癱瘓”,攻擊源頭則是智能家居產(chǎn)品組成的“僵尸物聯(lián)網(wǎng)”,即成千上萬的物聯(lián)網(wǎng)設備在黑客的控制下,大量發(fā)送通信請求,導致域名服務器癱瘓。
在GeekPwn2016嘉年華上海站,鳳凰解碼團隊現(xiàn)場演示了操控智能插座發(fā)微博,形象的展示了物聯(lián)網(wǎng)設備被黑的后果。來自卡巴斯基的安全專家Denis Makrushin和Vladimir Dashchenko,也對“智能城市”公共設施安全隱患進行了全面剖析。他們演示了從城市街道的終端設備,如自動售票機、移動設備充電站、公共支付端,到大部分支付服務的電腦終端,從市政廳到機場,從出租車后座顯示器到高速公路攝像頭等一系列破解。
自2014年舉辦以來,GeekPwn始終關注物聯(lián)網(wǎng)設備安全,從第一屆的智能門鎖、路由器破解到第二屆的無人機、POS機、智能攝像頭、O2O移動支付項目破解,再到今年的仿人機器人、智能插座、“手機的最后一道防線”TrustZone被攻破,GeekPwn幾乎把能“黑”的智能設備都“黑”了,將物聯(lián)網(wǎng)安全做到了極致。
做物聯(lián)網(wǎng)時代安全生態(tài)的連接平臺
極棒經(jīng)過三年發(fā)展,已經(jīng)搭建起一個安全人才,安全廠商之間相互促進,用技術推動物聯(lián)網(wǎng)安全生態(tài)發(fā)展的多維連接平臺。白帽黑客與廠商通過GeekPwn可以平等溝通。白帽黑客來到極棒不僅可以展示才華,更能“負責任的披露”,將產(chǎn)品漏洞提交給廠商,解決實際問題。面對日益嚴峻的網(wǎng)絡安全形勢,來自外部安全社區(qū)的力量不可忽視,白帽黑客為智能安全帶來了新思路,在提高產(chǎn)品安全上更具啟發(fā)性。
極棒將繼續(xù)貼近生活,關注物聯(lián)網(wǎng)安全,同時也將極端面向未來。在首次嘗試人工智能Pwn后,王琦表達了極棒的未來目標:“極棒將繼續(xù)引領創(chuàng)新,引導有才華橫溢的極客發(fā)現(xiàn)一些更未來的問題,做一些更前沿的東西。”