RSAC 2025前瞻：Agentic AI將成為行業新風向
責編：gltian ｜2025-04-27 10:20:53網絡安全行業向來鐘愛流行詞匯，而這種趨勢在每年于美國舊金山舉辦的RSA大會上體現得淋漓盡致。只需在展廳走一圈，便會被各種縮略語和夸張的宣傳語轟炸得頭暈目眩。
過去幾年里，AI一直是行業焦點。從承諾實現完全自主的安全運營中心（SOC），到預測大模型可以無人干預地利用零日漏洞。我們預計，未來幾天召開的2025年RSA大會，將被“代理型AI”（Agentic AI）主宰。
代理型AI在RSAC上無處不在
如同所有新興技術一樣，AI代理對不同的人有不同的定義。但總體而言，它是一種構建在大語言模型基礎上的任務導向型AI，能夠分析數據并采取行動，在某種程度上獨立于人類操作。
盡管RSA大會上部分代理型AI的說法確有其現實基礎，但很多都只是炒作。然而無論如何，我們都無法回避這個話題。
從4月28日的主旨演講《代理型AI時代的安全》開始，到各大廠商展示其AI代理如何進行惡意軟件分析或應對最新的AI生成威脅，“代理型AI”無疑將無處不在。
我們已經在最近幾場科技巨頭會議上見到了一些初期跡象，例如微軟的Ignite大會和Google Cloud Next大會。這兩大科技巨頭以及其他軟件公司，顯然已經積極地跳上了代理型AI這輛列車。
Gartner研究副總裁Neil MacDonald表示：“去年，大家的重點是將生成式AI助手集成進軟件中，幫助管理人員完成某項任務，如撰寫政策或解釋檢測內容。”
他說：“2025年，焦點將轉向AI代理，也就是代理型AI。這類代理能夠自動完成一系列協調動作。傳統的AI助手僅僅是響應你的請求，而代理型AI能主動執行具體流程、達成實際結果，無需你一步步引導?！?/p>
幾乎所有行業都存在AI代理的應用場景，從支付處理到快餐點單。而在網絡安全領域，典型場景包括安全運營中心相關任務，比如分析事件日志、檢測異常流量模式以及對告警進行初步分類。
安全運營中的AI代理
專注于Salesforce平臺安全的AutoRABIT公司首席技術官Jason Lord表示：“在安全分析的流程中，AI代理可以極為迅速地處理大量數據，從而大大減少分析人員必須整天敲代碼、寫搜索邏輯的工作量。”
Lord指出，代理還非常擅長識別釣魚攻擊，而這類攻擊本身如今也越來越多地由AI生成。例如，代理可以分析一封電子郵件，并判斷：“這是一個可疑的回復地址，這是一個偽造的標志，這個鏈接托管在.parks域名下、上線僅12小時。這很可能是惡意內容?！贝砜梢詫⑦@類郵件篩選出來，交由安全團隊進一步處置。
此外，這類代理還像早期用于網絡分析的AI工具一樣，能夠協助檢測潛在威脅，并在大型企業環境中標記可疑流量。
Lord說：“所以，當你在調查某個安全事件，看著整天不停彈出的告警時，它可以把相關信息拼接起來，然后告訴你，‘嘿，之前我們檢測到這3項活動剛剛發生。這是我拉取的所有相關數據，你可以據此進行判斷。’”
不過，Lord也表示，他不會讓代理執行某些關鍵操作。他說：“我不會讓它去修改特征檢測或規則邏輯，不會讓它打開或關閉防火墻端口，也不會讓它禁用或覆蓋安全功能?！?/p>
應汲取天網故事教訓
與此同時，要確保這些代理本身的安全，還需要大量工作。與所有AI系統一樣，代理型AI也面臨風險：惡意行為者可能會污染其訓練數據，或誘導其執行錯誤行為。
Lord說：“我不會完全拿天網的例子來說事，但AI代理確實有可能執行一些風險極高的操作，比如關閉網絡的某些部分，甚至整個網絡?！彼傅氖请娪啊督K結者》中那個叛變、毀滅人類的AI系統。
“它可能造成內外部的服務拒絕攻擊，導致資源無法訪問；它可能不小心泄露數據或個人信息；它可能繞過數據保護機制，將信息發送到組織外部。最終問題是：誰在監控這些代理？誰能識別出它們正在做錯事？”
JFrog公司供應鏈安全負責人兼客戶首席信息安全官Paul Davis說：“關于代理型AI的炒作問題在于，我們太沉浸于激動人心的技術前景，而忽視了其中潛藏的風險。”
“就像那些為代碼而生的生成式AI一樣，我們也必須安排真實的人來進行審核，在放它自由運行之前先層層把關。”
Davis以自己熟悉的制造業為例指出：在很多制造系統中，設備必須按照嚴格的順序進行關機和重啟，否則就會出現嚴重故障。
他說：“很多人根本意識不到，除非有人專門教過AI這個順序，否則它很可能就會搞砸整套流程。”
此外，圍繞AI訓練數據的隱私與安全問題也非常突出：這些數據存儲在哪里？保存多久？誰能訪問？是否可以刪除？如果可以，誰來刪？
Davis說：“沒有數據，AI代理就毫無用武之地。數據監管將會變得極其嚴格?！?/p>
他補充道：“我們面對的是這樣一個系統，它不僅可以編寫代碼、做出決策，還運行在處理大量數據的基礎設施上。代理型AI正處于進入大眾化的門檻上。這多少有點嚇人，我相信我們在這條路上會經歷不少波折?！?/p>
有一點可以確定：AI將毫無懸念地成為今年RSA大會的焦點話題。
Lord開玩笑說：“我要是每聽到一次AI就收一分錢，那我現在都可以退休了。是的，只收一分錢?！彼烙嫞@樣賺到的錢足夠“在波多黎各買一棟海景別墅?！?/p>
參考資料：https://www.theregister.com/2025/04/23/agentic_ai_rsac/