GeekPwn全球首創CAAD CTF 在DEF CON上演“矛盾”之戰
責編：gltian ｜2018-08-14 14:17:56美國當地時間8月10日，全球最大關注智能生活的黑客大賽GeekPwn亮相拉斯維加斯，在全球頂尖黑客大賽DEF CON最核心舞臺上舉辦，吸引了來自全球的數千名白帽黑客圍觀。
本屆，GeekPwn大賽聚焦于機器學習領域大熱的對抗樣本，突破性的全球首創以AI手段進行的安全攻防賽——CAAD CTF。來自世界各地的六支頂尖安全團隊現場開戰，經過激烈角逐，最終，清華大學TSAIL團隊問鼎本屆CAAD CTF大賽的冠軍，NorthWestTSec、YYZZ團隊分別獲得二、三名，UCNESL、Blade Team以及JD-Omega團隊獲得優勝獎。
聚焦機器學習對抗訓練 全球首創AI對抗樣本攻防賽CAAD CTF
CAAD對抗樣本攻防賽是GeekPwn2018推出的全新挑戰項目，聚焦人工智能領域潛在安全問題，旨在通過專業的技術比拼，選手在現場進行實時攻擊與防守比賽，提前預演人工智能應用潛在的安全風險，保護人工智能健康成長。而CAAD CTF 作為GeekPwn拉斯維加斯站的邀請賽，在全球頂級黑客大會DEF CON現場進行，這對于兩萬多DEF CON參會者和GeekPwn選手們而言，都是一次全新的視聽與難得的技術交流體驗。
CAAD CTF比賽采用了六輪循環賽制，每個隊伍在每一輪都會獲得一個圖像，這個圖像屬于某種分類。我們常見的AI識圖，實際上就是AI將圖像識別為某個類別。比賽要求每個隊伍利用自己生成的能夠欺騙神經網絡的對抗樣本去攻擊其他團隊的圖像分類器，攻擊要求是讓不同團隊的分類器識別成某類指定圖像，這種攻擊方式被命名為“定向對抗攻擊”。賽前選手已經提交了各自的防御系統，他們在各自的分類器上進行了加固等防御措施，用來防守來自其他隊伍對抗樣本的攻擊。
此次CAAD CTF便要求選手們針對“對抗樣本”進行攻防競賽，本是肉眼能分辨出來的 “航天飛機”，卻被AI安全選手們“黑”了細節，被系統判定成“蘑菇”和“秒表”。
（肉眼看不出區別的兩張圖片，在 AI 眼里：左邊的是蘑菇，右邊的秒表）
短短兩個多小時，所有團隊累計發動的成功攻擊次數超過百次。在所有團隊已經進行了防御的基礎上，依舊產生了如此多的成功攻擊，這足以說明，一旦人們生活里出現對抗樣本的應用，后果將不堪設想。而更加令人擔憂的是，當前情況下，針對對抗樣本攻擊，依舊沒有足夠好的防御方法。
試想，如果犯罪分子利用對抗樣本偽裝成普通人，騙過強大的人臉識別系統；如果一輛自動駕駛汽車把一個人看成了一只貓；如果一段語音在正常人聽來沒有異樣，卻能命令人工智能助手進行轉賬、消費等行為……這些隱藏在智能生活里的人工智能安全隱患，未來很可能真的發生并成為社會新聞的頭條。
世界級團隊與AI頂級專家悉數亮相 GeekPwn助力推動AI健康發展
作為全球首個探索人工智能與專業安全的前沿平臺，GeekPwn自2015年起率先開始關注AI安全的問題，通過不斷推陳出新的創新競賽形式，致力于長期推動安全生態健康發展。
本屆CAAD CTF匯聚了來自京東、清華大學、康奈爾大學、耶魯等科技企業、頂級高校的十二名選手參加。其中Blade Team和NorthWest Security都是多年耕耘在安全領域的資深團隊，也曾不止一次參加GeekPwn。YYZZ和UCNESL的成員均為耶魯、加州大學洛杉磯分校、康奈爾大學等美國名校的畢業生或在校生，其中不乏就職于IBM、谷歌、微軟等世界頂級科技公司的研究人員。清華大學的TSAIL團隊曾在NIPS 2017 的“非定向對抗攻擊”、“定向對抗攻擊”以及“對抗防御”三個比賽中均奪得冠軍。來自京東安全團隊 JD-Omega的兩位成員雖然年紀不大，卻已經頻頻在人工智能、安全領域等頂級會議上發表成果。
（本次參賽的六支戰隊）
除了激烈的AI攻防賽，GeekPwn比賽現場還有關于對抗攻防最新的研究演講分享。來自多倫多大學的 Joey Bose 分享了針對臉部識別系統的對抗攻擊，而伊利諾伊大學厄巴納香檳分校李博博士重點從防御的角度探討了如何躲避對抗環境下的攻擊。此外，以議題分享為主的CAAD Village也在拉斯維加斯同期舉行，來自全球的頂級AI安全專家圍繞AI安全、對抗樣本攻防等前沿安全話題帶來了十個干貨滿滿的議題分享。
值得一提的是，來自內華達大學DASL實驗室的研究員在GeekPwn現場展示了他們根據GeekPwn“機器特工挑戰賽”規則自制的機器人，外形原始的機器人完成了黑掉電腦的任務，為現場觀眾帶來一場腦洞盛宴。正如GeekPwn發起創辦人、KEEN公司 CEO王琦說的：“如果我們都能夠利用自己的特長，未雨綢繆提前做一些事情，這將非常有意義。”
據悉，GeekPwn2018嘉年華將于2018 年10月24日-25日在上海舉行。屆時CAAD 對抗樣本攻防賽、數據追蹤挑戰賽、黑客屋挑戰賽、機器特工挑戰賽、PWN FOR FUN趣味挑戰賽、基于漏洞和非基于漏洞挑戰賽輪番上演，更多黑客選手、腦洞大開的挑戰項目，一起見證“人攻智能”。