OpenAI、谷歌微軟等設立1000萬美元AI安全基金
責編：gltian ｜2023-10-27 11:21:11谷歌、微軟、OpenAI 和 Anthropic 發布聯合聲明，任命美國智庫學會高管 Chris Meserole 為前沿模型論壇 (Frontier Model Forum) 首任執行董事。并宣布設立 1000 萬美元的 AI 安全基金，“以推動正在進行的工具開發研究，幫助社會能夠有效地測試和評估最有能力的 AI 模型?！?/p>
前沿模型論壇由微軟、OpenAI、谷歌和 Anthropic 在今年 7 月聯合創立而成，是一個專注于確保安全和負責任地開發前沿人工智能模型的行業機構。該論壇旨在幫助：
- 推動人工智能安全研究，促進負責任地開發前沿模型并最大限度地降低潛在風險；
- 確定前沿模型的安全最佳實踐；
- 與政策制定者、學術界、民間社會和其他方面分享知識，推動負責任的人工智能發展；
- 以及大力支持開發有助于應對社會挑戰的 AI 應用程序。
公告指出，AI 安全基金將支持來自世界各地附屬于學術機構、研究機構和初創公司的獨立研究人員。初始資金來自 Anthropic、谷歌、微軟和 OpenAI，以及其他慈善合作伙伴。
基金的主要重點將在于，支持開發新的模型評估技術，以幫助開發和測試前沿系統潛在危險能力的評估技術。“我們相信，增加該領域的資金將有助于提高安全標準，并為行業、政府和民間社會應對 AI 系統帶來的挑戰所需的緩解和控制提供見解。 ”
該基金將在未來幾個月內征集提案。前沿模型論壇還計劃成立一個顧問委員會，以幫助指導其戰略和優先事項。
1000 萬美元不算小數目，但在 AI 安全研究的背景下以及與前沿模式論壇成員在商業活動上的花費相比，這一數目就 “顯得相當保守了”?？萍济襟w TechCrunch 指出，僅今年一年，Anthropic 就從亞馬遜籌集了數十億美元，用于開發下一代 AI 助手，此前谷歌也向其投資了 300 美元。
且與其他 AI 安全基金相比，該基金的規模也很小。根據博客 Less Wrong 的分析，由 Facebook 創始人 (Dustin Moskovitz 聯合創辦的資助和研究基金會 Open Philanthropy 已為 AI 安全捐贈了約 3.07 億美元。
公益公司 “The Survival and Flourishing Fund” 也已向 AI 安全項目捐贈了約 3000 萬美元。美國國家科學基金會表示，未來兩年將斥資 2000 萬美元用于 AI 安全研究，部分資金由 Open Philanthropy 資助。
“前沿模型論壇暗示下一步將成立一個規模更大的基金。如果這一目標實現，它可能有機會推動 AI 安全研究 —— 前提是我們相信該基金的明確營利性支持者不會對研究施加不當影響。但無論你如何劃分，首批資金似乎都過于有限，無法取得多大成就。”
相關鏈接：https://openai.com/blog/frontier-model-forum-updates
來源：OSC開源社區