本月初,安全牛報(bào)道過(guò)新加坡國(guó)立大學(xué)(NUS)開(kāi)發(fā)的對(duì)抗人工智能人臉識(shí)別的照片“加擾”技術(shù),可以保護(hù)人們的數(shù)字隱私不受機(jī)器大規(guī)模人臉識(shí)別和采集技術(shù)的侵犯(例如社交媒體、電商巨頭、有組織犯罪集團(tuán)等等)。
近日,芝加哥大學(xué)的研究者在第29屆USENIX安全研討會(huì)發(fā)布了一個(gè)新的圖像混淆技術(shù),可以對(duì)人們發(fā)布的照片進(jìn)行像素級(jí)的更改(肉眼無(wú)法察覺(jué)的圖像偽裝),實(shí)驗(yàn)證明,無(wú)論如何訓(xùn)練人臉識(shí)別深度學(xué)習(xí)模型,F(xiàn)awkes都能提供95%以上的保護(hù)成功率(人像不被正確識(shí)別)。
然后,您可以像平常一樣使用這些“偽裝”的照片,在社交媒體上共享它們,將其發(fā)送給朋友,進(jìn)行打印或在數(shù)字設(shè)備上顯示它們,就像處理其他任何照片一樣。但是,不同之處在于,當(dāng)有人(編者按:例如ImageNet創(chuàng)始人李飛飛所做的那樣)嘗試使用這些照片來(lái)構(gòu)建面部識(shí)別模型時(shí),“隱身”圖像將交給模型一個(gè)高度失真的版本。
Fawkes的研究團(tuán)隊(duì)宣稱(chēng),即使面對(duì)最先進(jìn)的人臉識(shí)別模型,F(xiàn)awkes依然能保持極高的成功率,同時(shí)對(duì)于嘗試檢測(cè)或破壞圖像偽裝的各種對(duì)策具有強(qiáng)大的抵抗力。
參考資料
Fawkes:保護(hù)隱私不受未授權(quán)深度學(xué)習(xí)模型侵犯
http://people.cs.uchicago.edu/~ravenben/publications/pdf/fawkes-usenix20.pdf