覆蓋700余種風險，MIT發布最全AI風險數據庫
責編：gltian ｜2024-08-22 11:28:35麻省理工學院（MIT）研究人員近日發布了一個號稱迄今為止最全面的AI風險動態數據庫，涵蓋了43大AI風險類別共計777種AI風險。
這是業界首次嘗試全面整理、分析和提取人工智能風險，并整合成一個公開可訪問、全面、可擴展的分類風險數據庫。為業界統一定義、審計和管理人工智能風險奠定了基礎。
對于從事AI安全和治理的專業人士來說，這是一個不可或缺的知識庫，可用于創建自己（所在企業）的個性化風險數據庫。
AI風險數據庫 來源：MIT
MIT科技評論的一篇文章指出，AI技術應用面臨多種危險，系統可能存在偏見、傳播錯誤信息，甚至具有成癮性。這些風險只是冰山一角，AI還有可能被用于制造生物或化學武器，甚至在未來失控，造成難以挽回的災難性后果。
AI風險全景圖
為了滿足AI風險治理的迫切需求，MIT的計算機科學與人工智能實驗室（CSAIL）下屬的FutureTech團隊著手開發了“全覆蓋”AI風險數據庫。
據CSAIL網站發布的新聞，研究人員在現有的AI風險框架中發現了大量嚴重漏洞，現有的最詳盡的AI風險框架（例如NIST、谷歌和歐盟發布的框架）也僅涵蓋了所有風險的約70%。因此，項目負責人Peter Slattery博士擔心決策者可能會因為認知偏差而忽略重要問題，從而形成集體決策盲區。
MIT的AI風險數據庫旨在為學者、安全審計人員、政策制定者、AI公司和公眾提供關于AI風險“全景圖”，為研究、開發和治理AI系統提供了一個統一的參考框架。該數據庫由三部分組成：AI風險數據庫、AI風險因果分類法以及AI風險領域分類法，具體如下：
- AI風險數據庫：記錄了從43種現有框架中提取的700多種風險，并附有相關引用和頁碼。
- AI風險因果分類法：分類AI風險發生的方式、時間和原因。
- AI風險領域分類法：將風險分為七大領域和23個子領域，涵蓋歧視與有害內容、隱私與安全、虛假信息、惡意行為者及誤用、人機交互、社會經濟與環境危害、AI系統安全與故障等。
AI治理的利器
Info-Tech研究集團首席研究總監Brian Jackson認為，AI風險數據庫對負責AI治理的企業領導者來說極具價值。它不僅幫助企業識別新的AI風險，還可以作為制定具體治理策略的基礎工具。此外，該數據庫以Google Sheets的形式提供，便于各組織根據自己的需求進行定制。
AI風險數據庫的功能和適用場景如下：
通用功能：
- 吸納新成員進入AI風險領域。
- 為復雜項目奠定基礎。
- 為開發更細化或特定的分類體系提供信息支持（例如，系統性風險或歐盟相關的虛假信息風險）。
- 利用分類體系進行優先級排序（如通過專家評分）、綜合分析（如進行審查）或比較（如跨領域探討公眾關注點）。
- 識別被忽視的領域（如AI的福利和權利）。
適用人群和場景：
- 政策制定者：用于制定法規和共享標準的開發。
- 審計人員：開發AI系統的審計標準。
- 學術界：識別研究空白，開發教育和培訓。
- 行業：內部評估和準備AI風險，制定相關戰略、教育和培訓。
盡管數據庫還存在一些限制，例如依賴現有的43種分類法，可能遺漏新興的特定領域風險，但MIT的研究人員表示，這項工作為未來的AI風險評估奠定了基礎，促進了更協調和全面的風險管理方法。
展望未來：AI治理的新篇章
面對AI技術的野蠻生長和潛在風險的快速累積，越來越多的企業和機構在部署AI應用時更加謹慎，并渴望提高嚴重滯后的AI風險治理能力。
MIT發布的AI風險數據庫為AI的健康發展提供了全方位的風險地圖，標志著AI治理的新篇章已經開啟。
Gartner副總裁分析師Bart Willemsen指出，這項研究是邁向更深入理解AI技術風險的重要一步。他期待未來的版本能夠不僅列出AI風險，還能提供相關的緩解措施，為行業應用提供最佳實踐指南。
參考鏈接：
https://cdn.prod.website-files.com/669550d38372f33552d2516e/66bc918b580467717e194940_The%20AI%20Risk%20Repository_13_8_2024.pdf
AI風險數據庫：
http://airisk.mit.edu/