微軟安全如何做AI Agent？Security Copilot新增11款Agent解析
責編：gltian ｜2025-03-26 16:34:29微軟的Security Copilot正在逐步增強自主性，使得其底層的AI模型能更廣泛地與該公司的安全軟件進行互動，從而實現自動執行各類任務。
Security Copilot新增11個安全任務代理
Security Copilot于2023年首次亮相，承諾將自動化處理微軟Defender XDR中的安全事件。
微軟舊金山辦公室3月20日舉行的新聞發布會上，微軟負責安全、合規和身份等部門的副總裁Vasu Jakkal公布了Security Copilot的擴展計劃。Security Copilot現在新增了11個專用任務的AI代理（Agent），能夠與Defender、Purview、Entra和Intune等微軟安全產品進行互動。
微軟官方推出的代理包括：
- 微軟Defender中的網絡釣魚分類代理，用于整理網絡釣魚報告。
- 微軟Purview中的告警分類代理，用于分類數據丟失防護和內部風險警報。
- 微軟Entra中的條件訪問優化代理，用于監控和防止身份與策略問題。
- 微軟Intune中的漏洞修復代理，用于優先處理漏洞修復。
- Security Copilot中的威脅情報簡報代理，用于整理威脅情報。
微軟安全合作伙伴也推出了5款代理：
- OneTrust的隱私泄露響應代理，用于提煉數據泄露報告。
- Aviatrix的網絡監控代理，用于分析網絡問題的根本原因。
- BlueVoyant的SecOps工具代理，用于評估安全運營中心的控制措施。
- Tanium的警報分類代理，幫助安全分析師優先處理警報。
- Fletch的任務優化代理，用于預測并優先處理威脅警報。
最后一個代理屬于微軟Purview數據安全調查（DSI）。這是一個基于AI的服務，旨在幫助數據安全團隊處理數據暴露風險。
這些代理本質上利用生成式AI的自然語言處理能力，自動總結海量數據，如網絡釣魚警告或威脅警報，從而幫助人工決策者聚焦最緊急的安全信號。
網絡環境急劇擴張呼喚安全AI代理
這也與Jakkal的觀點相吻合。她認為，安全領域的變化如此迅速，以至于人們難以應對，因此必須依賴非確定性的宏命令，或者換句話說，就是AI代理。
她表示：“網絡環境的速度、規模和復雜度都在急劇增加。2024年的每秒攻擊數量為4000次，目前已經增長到每秒7000次攻擊，這意味著每天有6億次攻擊?！?/p>
Jakkal表示，Security Copilot的初步版本已經幫助組織有效應對了快速增長的威脅。
她說：“對于使用它的安全團隊，我們已經看到響應時間平均縮短了30%。”但她沒有具體說明這種改進的成本。
她解釋道：“這意味著他們在響應安全事件時能更迅速。我們還觀察到，早期的安全從業者，雖然渴望進入這個領域，但常常不知從何做起。他們的工作效率提高了26%，準確性提高了35%。即使是經驗豐富的專業人士，他們的速度依然提高了22%，準確度提升了7%?！?/p>
Jakkal說：“我們正迎來代理AI的時代。無論大家走到哪里，都會聽到‘代理、代理、代理’的聲音。那么，什么是代理呢？嗯，代理已經無處不在了?！?/p>
她分享了與一位同事對話中的一段有趣情節，提出了一個問題：“什么是代理？”她自己回答道：“這是個很好的問題。”然而，她并未進一步詳細解釋。
這一點為活動定下了基調。諸如“代理部署失敗的情況是怎樣的？”“運行這些功能所需的計算資源成本是多少？”之類的問題，往往沒有明確的答復。
安全代理已封堵常見幻覺和提示詞注入問題
出于對AI代理潛在出錯方式的好奇，外媒The Register與微軟AI安全和紅隊工作主管Tori Westerhoff進行了交流，了解她的團隊在開發這些代理時的經驗和教訓。
Westerhoff對微軟的AI安全整體策略充滿信心，她提及微軟Azure CTO Mark Russinovich去年公布的AI護欄防護方案，指出這些AI模型已經具備了防護措施。她的團隊也做了大量工作，盡量減少跨提示詞注入的風險。
她說：“我們推動產品開發人員了解跨提示詞注入的工作原理，以便他們在構建產品時已經具備相應的安全意識?！?/p>
當被問及Security Copilot代理在開發過程中誤報率等指標時，Westerhoff表示：“具體的產品操作方面，我暫時無法提供詳細數據，”但她也提到，微軟的紅隊在產品發布前與開發人員密切合作，針對AI幻覺和代理系統強化做了大量工作。
她繼續解釋道：“我猜您想問的是，‘這個系統會出現什么問題？’我們團隊的優勢在于，我們會提前識別這些潛在問題，及時解決，并確保發布前發現生成式AI的薄弱環節，防止這些問題影響客戶?！彼?，不必過于擔心。
網絡釣魚分類代理可高效處理員工上報事件
Security Copilot的產品架構師Nick Goodman展示了Defender中的網絡釣魚分類代理如何工作。
圖：微軟Defender網絡釣魚分類代理
他解釋道：“每個組織都會有網絡釣魚解決方案，即便如此，我們仍然會培訓員工報告網絡釣魚事件。而他們確實報告了大量事件，但其中95%都是誤報。每一份報告大約需要30分鐘。因此，我們的分析師大多數時間都在處理誤報。這正是這個代理將幫助我們的地方。”
不過，在某些情況下，客戶仍需為代理提供協助。Goodman展示了一封被判定為網絡釣魚郵件的公司全員郵件，這封郵件由于其語言特征和緊迫性被誤判為網絡釣魚郵件。
Goodman表示，盡管這封郵件看起來像垃圾郵件，語言也顯得急迫，但它實際上是合法的HR通知。他說：“代理無法了解這一點，因為它缺乏員工的背景信息。”因此，它會將郵件標記給員工進行人工審核?！?/p>
隨后，Goodman將該郵件的分類從“疑似網絡釣魚郵件”更改為“合法郵件”，并教會代理如何在未來進行更好的分類。他說：“這是一個學習的過程。這個調整對以后代理的使用有效，但僅對該組織有效。它不會傳遞給微軟，也不會與其他客戶共享，且不涉及基礎模型的訓練。這就是組織內部的背景信息，只要員工做了這些，系統就能開始學習，就像訓練人工分析師一樣?！?/p>
當被問及微軟預期該系統可能節省多少勞動力成本時，Goodman回答：“我沒有相關研究可以分享。我們發布研究的標準非常高?！?/p>
Goodman表示，客戶已經開始使用Security Copilot來處理網絡釣魚分類任務。
在被問及微軟是否了解該系統在開箱即用時的誤報率及訓練后的變化時，Goodman表示：“誤報率取決于輸入行為（即人們報告的內容），基于輸入內容的誤報率，目前沒有具體數字可以分享。我們正與客戶一起評估這一點。”
隱私泄露響應代理快速提供優先響應事項
OneTrust的隱私與數據治理高級副總裁兼總經理Ojas Rege展示了該公司隱私泄露響應代理如何幫助企業隱私官處理數據泄露報告。
他說：“如果發生數據泄露，在的影響分析中，您必須履行一系列隱私義務。問題在于，數據泄露的通知法規因州和國家而異，非常復雜且零散，有時通知的時間非常緊迫，比如72小時?！?/p>
此時，生成式AI模型的總結能力顯得尤為重要。OneTrust的代理根據其分析OneTrust監管研究數據庫中的數據，為隱私官或合規官提供優先處理的推薦列表。
Rege表示：“代理不會直接通知監管機構，”他說：“代理完成所有背景分析工作，但實際通知工作仍需人工完成。”
當被問及有關幻覺的可能性時，Rege表示幻覺的風險非常低，且系統有審計日志，并能鏈接到具體法規，因此代理提供的建議是可驗證的。
總之，微軟的代理在為您提供幫助時，仍然需要您核對其工作。
參考資料：theregister.com