AI 演化：為什么 SOC 中始終有人的一席之地
責編：gltian ｜2019-10-24 15:58:04網絡安全領域，人與機器的配合能夠干成各自單獨完成不了的事，結成能夠維持秩序對抗惡勢力的互補式團隊。
二十世紀特別癡迷人工智能 (AI) 概念。從熱心助人的類人仿真機器人，如《星球大戰》里蠢萌蠢萌的 C-3PO；到鐵板一塊冷酷邪惡的智慧機器，如《2001太空漫游》里的 HAL 9000 超級電腦和《黑客帝國》里的主機；AI 都是科幻電影或小說里的標準配置。如今，隨著我們真切進入 AI 時代，人類 AI 愿景遠比預言更夢幻的事實愈加明顯。但我們確實預言對了一件事：AI 徹底改變世界的潛力——無論善惡。
人工智能幾乎徹底變革了采納這種技術的所有行業，包括醫療、證券市場，以及加速采用 AI 的網絡安全領域——既用于補充人力也用于強化防御。最近幾年機器學習的發展，使得過去人工完成的繁瑣工作現在可以自動化完成，比如梳理看起來無窮無盡的數據以找尋威脅指標和異常。現代 AI 具備“理解”威脅、風險和關系的能力，因而能夠過濾壓垮網絡安全部門的大量噪音，只濾出最可能有效的指標。
這一優勢包含兩個方面：威脅再也不能因安全人員疲勞或職業倦怠而乘隙而入，網絡安全人員能夠騰出手來從事更重要的任務，比如修復。AI 還可以提升全網可見性。可以通過模擬點擊電子郵件鏈接和分析措辭及語法來篩查網絡釣魚。可以監視網絡通信，查找惡意軟件安裝嘗試、命令與控制 (C2) 通信、可疑數據包等。而且，AI 還幫助轉型病毒檢測，從完全基于特征碼的系統——受制于反應時間、效率和存儲要求等，轉入能檢測無特征碼惡意軟件、零日漏洞利用和位置威脅的行為分析時代。
但盡管 AI 潛力無窮，網絡安全部門里的人類員工完全被 AI 替代的想法，仍舊好像用大白代替全國各位醫生一樣遙不可及。雖說 AI 的終極目標是模擬問題解決、學習、規劃、直覺等人類身心功能，但總有些事是 AI 不能處理（目前還不能）的，還有些事是 AI 不應該處理的。AI 不能處理的事務包括創造，這玩意兒可不是能教出來或者編程編出的，總需要人類指導。期待 AI 可靠有效地確定攻擊上下文也是個不可逾越的難題，至少短期內是如此，另外也不用指望 AI 能創建安全問題的新解決方案。換句話說，盡管 AI 肯定能增加傳統人工處理任務的速度和準確度，但卻很難擴展此類任務的范圍。
還有些任務是人類當前擅長而 AI 未來有可能超越的。但這些任務是人類將總是占據巨大優勢，或者不應完全信任 AI 處理的那種。這類任務包括合規、獨立形成策略、分析風險或響應網絡攻擊。這些領域總是需要人類充當 AI 系統決策核查員，檢查其工作，幫助指導其訓練。
SOC 永遠要留有人類的位置還有另外一個原因：為了領先已開始運用 AI 作惡的網絡罪犯一步。不幸的是，任何可以用來幫助人類的 AI 技術同樣可以用來傷害人類，而且隨著時間推移， AI 對網絡罪犯的幫助會像對合法企業的幫助一樣大。
暴力破解攻擊，曾經隨著密碼復雜度要求的提高而式微，但以 AI 的形式獲得極大推動。該技術結合了之前泄露的密碼數據庫和公開可用的社交媒體信息，如今不再試圖從 111111 之類開始嘗試每個可能的密碼組合，而是只做經過訓練的猜解，成功率高得驚人。
類似的，AI 可用于魚叉式網絡釣魚攻擊。當前，魚叉式網絡釣魚必須人工進行，限制了其實用性。但結合數據收集和機器學習技術，社交媒體和其他公開信息源就能被用來“教導” AI 撰寫出目標信任的文風，讓目標更可能執行攻擊者染指敏感數據或安裝惡意軟件所需的動作。由于魚叉式網絡釣魚所需工作量大幅下降，同時期收益潛力急劇上升，我們無疑會看到更多此類攻擊。
但或許最大的威脅是黑客將用他們的 AI 策反網絡安全團隊的 AI。達成此事的一條路徑是挫敗現有機器學習模型，也就是所謂的 “對抗性機器學習”。機器學習中的 “學習” 部分，指的是系統觀察數據模式和提出數據含義假設的能力。但通過往系統中注入錯誤數據，算法賴以決策的模式就會被破壞——讓目標 AI 以為惡意過程不過是無意義的日常事件而加以放過。惡意黑客置入 AI 系統的一些過程和信號對系統本身毫無影響，他們只是重新訓練該 AI 把自身行為視作正常的而已。一旦訓練完畢，這些過程就可用于執行幾乎不會被逮到的攻擊。
鑒于 AI 可能為害的各種方式，有些人可能干脆就想完全放棄 AI 了。但無論你個人是怎么想的，AI 之路已經無法回頭。隨著網絡罪犯開發出愈加復雜和危險的 AI 利用方式，僅靠安全人員自身已經不可能跟上他們的腳步。唯一的解決方案，就是在 AI 利用上更加精進，在罪犯之前開發和部署新的 AI 進展。同時避免太快自滿。畢竟，壞人不會閑著這話在網絡攻擊者身上體現的更加明顯，今天看起來最智能的進步也擋不住明天的威脅。
網絡安全的未來將充滿我們今天無法想象的威脅。但小心警惕加努力工作，人與機器的結合能做到二者單獨辦不到的事——結成互為補充的團隊，對抗邪惡勢力，維護網絡世界秩序。
畢竟，我們的 AI 可能與電影里的那些沒什么不同。