AI vs. AI： 人工智能時代的網絡安全攻防戰
責編：gltian ｜2024-10-15 15:50:10網絡犯罪分子正利用人工智能（AI）發動更為復雜、規模化和先進的定向網絡攻擊。AI為攻擊者提供了動力，使他們能夠創造出逃避檢測的變形惡意軟件、極具說服力的網絡釣魚手段，并實現了高級攻擊的自動化。
的第四版報告指出，今年有75%的安全專業人員目睹了網絡攻擊的增加，其中85%的攻擊由生成式AI驅動。傳統的防御控制，如基于規則的入侵檢測和防御系統、基于簽名的防病毒軟件和防火墻，在防止不斷進化的AI驅動的網絡攻擊方面已被證明無效。因此，市場對于適應性強和更先進工具及策略的需求日益迫切，以便保護快速變化的威脅環境，并防御這些自動化的動態攻擊。
AI驅動的網絡攻擊
AI使網絡罪犯能夠以前所未有的準確性、速度和規模發動自動化網絡攻擊，這是僅靠人類黑客難以實現的。惡意用戶正在以多種方式利用AI技術。以下是攻擊者結合生成式AI的一些網絡攻擊：
- 社會工程學：攻擊者使用多種心理操縱技巧來誘導用戶提供憑據、信用卡詳細信息和個人信息。他們采用的攻擊手段包括釣魚、誘餌攻擊、語音釣魚、偽裝和侵入個人及企業電子郵件。黑客利用生成式人工智能使釣魚郵件和仿冒網站更加個性化、富有吸引力和復雜，并且幾乎與目標原始網站相似。這使得用戶難以檢測到偽造的惡意郵件，他們會被欺騙并被說服輸入其個人詳細信息。黑客還可以利用AI自動化這些攻擊的過程和生成虛假郵件及內容，從而增加攻擊的速度、規模和強度。
- 惡意軟件：過去惡意軟件的行為和特性被研究并開發了簽名。防病毒軟件以及入侵檢測和防御系統利用這些簽名來檢測惡意軟件、病毒、木馬和其他惡意軟件。如今，黑客正在利用生成式人工智能技術開發這種惡意軟件。由于它們具有動態性并且迅速進化，傳統的安全工具無法檢測到這種變種的軟件。
- 深度偽造：攻擊者利用AI技術輕松操縱音頻和視覺內容，創建欺騙性和誤導性的宣傳活動。他們僅僅通過竊聽通話和利用在社交媒體上發布的照片和視頻，就能冒充任何人，并制作用于誤導或操控公眾輿論的內容。AI使得這些虛假內容看起來合法且具有說服力。將這種攻擊與社會工程學、勒索和其他計劃結合起來，可能造成災難性后果。
- 暴力破解：AI技術增強了網絡犯罪分子使用的暴力破解工具和技術。它幫助攻擊者改進了用于破解密碼的解密算法，使這些攻擊更加精確和快速。
- 自動化攻擊：惡意用戶已開始使用由AI驅動的機器人自動檢測網站、系統和網絡中的威脅和弱點。一旦檢測到，它們就被用于進一步自動化利用已識別的漏洞。這極大地幫助黑客擴展他們的攻擊規模并造成更多損害。
- 網絡間諜活動：生成式AI技術可以用來自動提取被入侵網絡中的數據并進行分析。這使得網絡犯罪分子更容易竊取敏感和機密數據。
- 勒索軟件攻擊：黑客可以利用AI自動化識別目標組織網絡中的漏洞。然后他們可以自動化利用漏洞并加密公司的所有文件和文件夾,索要贖金以提供解密密鑰。AI簡化了整個 過程，減少了時間成本。
- 物聯網攻擊：網絡犯罪分子已開始使用AI來破解入侵檢測算法，進而攻擊物聯網網絡。如今AI被用于執行輸入攻擊、算法/數據污染、虛假數據注入，并利用模糊測試和符號執行等技術自動檢測網絡中的漏洞。
綜上所述，生成式AI技術使得網絡犯罪分子能夠創建更復雜、更自動化的攻擊手段，這些手法更具可擴展性且耗時更少。組織在檢測和防范這些高級攻擊手段方面面臨著巨大挑戰。
傳統安全措施的局限性
傳統的安全措施和工具，如入侵檢測和防御系統、SIEM、防火墻和防病毒軟件，在保護快速演變的威脅環境和防止AI驅動的網絡攻擊方面已被證明無效。以下是它們的一些局限性（圖1）：
圖1：傳統安全措施的局限性
- 基于簽名的檢測：大多數安全監控工具依賴于通過分析先前的攻擊模式和行為創建的規則和簽名數據庫。這些工具無法檢測到變化和快速演變的AI驅動的網絡攻擊。傳統工具不能提供安全事件的實時感知，而這在分析和減輕安全威脅中至關重要。
- 簽名更新延遲：一旦發現新的威脅，分析攻擊手段并更新安全工具的新簽名總會存在延遲。在簽名和補丁更新之前，系統仍然容易受到最新攻擊手段的威脅。
-
零日漏洞利用：傳統安全工具無法檢測過去從未遇到的安全漏洞。因為它們完全依賴于簽名數據庫，所以無法檢測到AI驅動的新型動態攻擊。
- 手動監控和測試：傳統安全工具依賴于訓練有素的人工干預來手動分析和測試安全警報。這些手動評估可能非常耗時，因為分析師必須處理大量日志和事件數據。這可能會導致檢測和事件響應的大量延遲。
-
易出錯的方法：由于大多數安全評估是手動進行的，存在更多人為錯誤的可能性，可能會誤解警報/數據，或者忽略攻擊跡象的細微變化，導致誤報和漏報。
- 不可擴展：大多數托管環境非常動態，根據需求快速提供和取消資源。因此，這類動態環境中的威脅格局不斷變化，傳統安全工具不堪重負，難以跟上這種轉變、復雜性和先進性。
如何利用AI防范AI驅動的網絡攻擊？
頗具諷刺意味的是，生成式AI技術本身可以用于防范AI驅動的網絡威脅。網絡安全行業已經開始結合使用AI驅動的安全工具和傳統的安全措施，如身份和訪問管理、入侵檢測、風險評估、欺詐檢測、數據丟失預防、事件響應和其他核心安全領域。令人驚訝的是，最近的研究顯示，2021年AI驅動的網絡安全工具和產品在全球市場的規模為150億美元，預計到2030年將激增至約1350億美元。在對抗當今高級網絡威脅時，使用AI驅動的安全工具有幾個優勢（圖2）。其中一些是：
圖2：AI驅動的網絡安全
- 基線建立：使用AI和機器學習算法的安全工具不依賴于傳統規則和基于簽名的檢測。相反，它們捕獲所有事件并分析大量數據集以創建正常行為的基線。通過分析歷史和實時交互數據，可以準確地了解所使用的所有資源、公開的服務、資產清單、網絡流量趨勢和正常的用戶活動/行為。這樣，可以輕松識別和管理威脅環境和相關漏洞。
- 異常檢測：AI驅動的工具旨在檢測與已建立的正常行為基線和模式的偏差。這包括不尋常的登錄活動、來自新地理位置或IP地址的訪問請求、新用戶訪問、更改文件和其他資源的權限、提取或刪除大量罰款，以及比正常速率呈指數級增長的流量。
- 攻擊預防能力：一旦AI驅動的工具識別出安全威脅或異常行為，它們就能夠采取預定義的主動行動來阻止攻擊。這可能包括注銷用戶、帳戶鎖定、取消交易、阻斷流量、隔離受影響的資源以及向管理員發送警報和通知以采取適當的操作。
- 實時監控：在這個AI的時代，實時監控非常重要。許多AI驅動的工具被設計為持續監控運行中的生產系統。這有助于在安全事件發生時立即做出響應，并可能減少損害。
- 預測分析：AI安全工具能夠分析歷史數據和當前趨勢/行為，并預測潛在的安全威脅和攻擊。因此，他們可以主動采取措施防止這些攻擊。
- 檢測零日漏洞攻擊和看不見的威脅：傳統安全工具只有在攻擊發生后才進行分析，并生成和分發預防性的簽名和補丁。因此，在簽名發布前，傳統工具無法保護系統免受新的、看不見的零日漏洞攻擊。另一方面，AI驅動的工具不依賴簽名，而是創建正常的趨勢基線，如果檢測到任何偏差，它們將采取適當的措施。因此，AI工具可以檢測和防御新的、看不見的零日漏洞攻擊
- 減少誤報：傳統工具生成大量誤報警報，分析人員在處理大量數據集時可能會錯過一些重要通知。AI安全工具傾向于產生較少的誤報，因為它們適應不斷進化的威脅環境和變化的威脅。
- 自動化：使用AI驅動的安全工具的顯著優勢是它們支持自動化的能力。無需任何手動干預，就可以自動化安全評估、滲透測試、安全審查和補丁管理。這減少了響應時間和人為錯誤的風險。
- 可擴展性：托管環境是動態的，AI安全工具旨在適應快速發展的環境、威脅環境、網絡流量模式和動態資源分配。它們可以無縫擴展以提供連續保護。
生成式AI驅動的工具可以分析以前的安全事件并訓練自己識別可疑行為、預測威脅和采取預防措施來阻止網絡攻擊，從而通過機器學習能力來提高自身水平。此外，這有助于填補缺乏足夠的具有網絡安全技能的人力資源來填補350萬個安全工作的空白。使用AI使安全分析師從平凡的初級事件監控和分析中解放出來，并允許他們將其技能應用于更高級的戰略決策任務。通過結合傳統安全工具和AI安全工具，組織正在經歷更高的生產力、效率以及安全威脅的減少。
組織應如何應對AI驅動的網絡攻擊？
組織需要及時了解AI驅動的安全攻擊領域的最新研究和發展，以及預防/修復攻擊的方法。執行定期安全審計以檢測安全漏洞，并確保您的基礎架構符合法規要求且安全。積極采取措施防止這些高級安全漏洞。投資于生成式AI驅動的安全工具，以利用它們在打擊快速發展的網絡威脅方面提供的好處。為您的團隊提供充分的培訓，并意識到AI安全風險以及安全利用它們的方法。