噴嚏聲和同音異形字正誘騙智能音箱向陌生人暴露你的私密談話。
這些陌生人就好像《竊聽風暴》里的東德國家安全部特工。他們受雇于設備制造商——機器學習數據分析師,聽到的片段是用戶從未打算饋送給第三方消費的。
彭博社撰文揭秘亞馬遜在羅馬尼亞的分析師隊伍,首次曝光這些智能音箱背后的人類分析師大軍,報道稱:一支全球團隊在審核音頻片段,幫助該聲控助手響應用戶指令。
亞馬遜之前從未承認過該過程的存在,也未公開過該人工干預的程度。
《The Register》曾詢問過擁有智能搜索助手的蘋果、微軟和谷歌三家公司,想知道他們人工參與錄音審查的程度及錄音留存策略。但三家公司均未透露任何消息。
正如《金融時報》本周解釋的:監督學習需要所謂 “人類智慧” 來訓練算法,很多時候這意味著發展中國家的廉價勞動力。
亞馬遜將錄音片段發往訓練團隊以改善Alexa的語音識別功能。波士頓、印度和羅馬尼亞有數千人被雇來傾聽Alexa錄音。
亞馬遜宣稱,Alexa只會響應一個喚醒詞。但因為Alexa會將雜音和同音異形詞誤解為默認喚醒詞,該團隊會聽到用戶從未打算發往亞馬遜的音頻。彭博社報道,該團隊收到了令人尷尬和困擾的音頻材料,至少包括一起性侵。
亞馬遜鼓勵受所聽內容困擾的員工互相安慰,但未詳細說明是否有心理咨詢服務可用。
音頻文件的留存據稱是自愿的,但亞馬遜給用戶的信息中并未說明這一點。亞馬遜和谷歌允許用戶從賬戶中刪除自己的錄音,只不過這種刪除不是永久的:錄音可繼續用于訓練目的。
個人歷史顯示,亞馬遜會繼續持有 “不用于Alexa” 的音頻數據文件。
媒體向微軟、谷歌和蘋果詢問了以下問題:
如上文所言,三家公司均未對上述3個問題作出正式聲明。
確保一旦刪除,音頻文件便永久消失。這兩點都值得作出正式的司法解釋。
《金融時報》指出,亞馬遜 Mechanical Turk 市場上的一份廣告貼出了一個人工智能任務,肯花12分鐘教導算法將綠色三角形在迷宮中導航至綠色正方形處就可獲得25美分的報酬。每小時的費率就是1.25美元。但Alexa用戶用自己的音頻訓練亞馬遜語音識別系統卻是毫無報酬的。
彭博社揭秘文章:
谷歌關于錄音使用的說明:
https://support.google.com/websearch/answer/6030020?co=GENIE.Platform%3DDesktop&hl=en