利用警局數據 IBM對象識別軟件根據膚色識別身份
責編：gltian ｜2018-09-17 10:46:462001年的9/11恐襲迅猛推高了全世界的安全意識，尤其是事發地紐約。紐約警局(NPYD)在遇襲后的10年里大幅增強了其監視能力。
最近一份報告宣稱，IBM利用這些攝像頭的數據，訓練其視頻監視軟件根據膚色來給人打標簽。
據泄密網站 The Intercept 的消息，9/11之后司法機構對IBM視頻分析軟件的需求急劇上升。因為能夠運用對象識別技術標記人員，該軟件可集成進公共攝像頭以搜索恐怖分子嫌疑人。另外，無人看管的行李、非法侵入者等等也可以用這套軟件加以識別。
自動化該識別過程可以讓用戶迅速搜索時長數小時的錄像，找出匹配特定描述的個人。
The Intercept 已經看過了揭示IBM開始接入NYPD攝像頭網絡開發其軟件的機密文檔。
警局在郵件中稱，我們不時提供視頻給IBM以確保他們正在開發的產品適用于紐約市人流密集的環境，幫助我們保衛這座城市。NYPD與IBM簽訂的協議中沒有禁止出于系統開發目的的數據共享。
另外，與NYPD簽約的所有供應商都被要求在協議存續期間、履約后和意外終止時，均保證NYPD提供的數據是保密的。
NYPD證實，一些反恐警官早在2012年夏天就可使用帶膚色識別功能的預發布版本。盡管發言人 Peter Donald 說警官們被指示不要用這個功能來做判斷。
警局一直沒用上這款分析軟件，并在2016年結束了與IBM的合作。Donald稱他沒發現有任何案例在逮捕或起訴中使用了IBM技術。
IBM在2016年底或2017年初開發了2.0版本，新增根據種族追蹤并提供諸如“亞洲”、“白種”或“黑種”等標簽的功能。據Donald所言，警局“因為該帶種族歧視的功能而明確拒絕了該產品。”
其他組織機構并沒有這種愧疚感。加州大學北嶺分校的校警就表示，他們一直在用帶這項功能的IBM工具跟蹤罪犯，有時候甚至用于監視學生抗議者。
與人臉識別技術不同，對象識別幾乎不在隱私維權人士的雷達范圍內。但公民自由倡導者如今宣稱，已經注意到了大規模種族形象定性的可能性。
技術無罪，但有可能被濫用。
無論作惡者是不是穆斯林，通常都會假設他/她是。不難想象，司法機構會直接得出有關嫌疑人種族和宗教信仰身份的結論，匆忙查詢視頻數據庫并梳理出符合該外形描述的人，然后招人進來問詢。
對象識別系統可能僅僅因為符合了一些常見外形特征，就不公正地指認某人是疑犯。
比如說，給出一個籠統的描述，類似“穿兜帽衫的年輕黑人男性”這種，該軟件的內部算法會標識出視頻中距離事發現場幾個街區的某行人。警察找個借口攔下他，說他符合之前某事件嫌疑人的特征描述什么的。
而且，NYPD幫助IBM的方式，已經設立了一個危險的先例：
沒什么事是真正意義上的“別人家的事”。公共空間里也不用期待會有什么隱私。于是，如何打造工具來實現監視就值得商榷了。這也正是為什么此類知識應更為廣而告之的原因所在——為方便找出真正的解決方案。
揭示IBM開始接入NYPD攝像頭網絡開發其軟件的機密文檔原文：
www.documentcloud.org/documents/4452844-IBM-SVS-Analytics-4-0-Plan-Update-for-NYPD-6.html