压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

美國(guó)思科公司正在擴(kuò)展其云安全平臺(tái)，引入全新技術(shù)功能，旨在幫助開發(fā)人員檢測(cè)和緩解AI應(yīng)用程序及其底層模型中的潛在漏洞。

全新的思科AI防御服務(wù)已于1月15日上線，旨在防止員工在使用ChatGPT、Anthropic和Copilot等服務(wù)時(shí)導(dǎo)致數(shù)據(jù)泄露。目前，這家網(wǎng)絡(luò)巨頭已向早期接入客戶提供AI防御功能，并計(jì)劃于3月全面推廣。

AI防御功能已集成到思科安全訪問產(chǎn)品，這是該公司去年推出的升級(jí)版安全服務(wù)邊緣（SSE）平臺(tái)產(chǎn)品。思科安全訪問SaaS版涵蓋零信任網(wǎng)絡(luò)訪問、VPN即服務(wù)、安全Web網(wǎng)關(guān)、云訪問安全代理、防火墻即服務(wù)，以及數(shù)字體驗(yàn)監(jiān)控等多項(xiàng)功能。

管理員可以通過托管思科所有云安全服務(wù)的思科云控制界面，查看AI防御的控制面板。

填補(bǔ)AI能力缺口

AI防御的目標(biāo)是幫助那些既擔(dān)心AI帶來(lái)的安全風(fēng)險(xiǎn)、又迫于業(yè)務(wù)需求需要將AI技術(shù)應(yīng)用到工作流程中的組織。思科首席產(chǎn)品官兼執(zhí)行副總裁Jeetu Patel在發(fā)布會(huì)上表示：“推動(dòng)創(chuàng)新需要保持速度和效率，同時(shí)確保安全。這并非二選一的矛盾抉擇，而是需要兩者兼顧。”

根據(jù)思科2024年AI準(zhǔn)備度調(diào)查，71%的受訪者認(rèn)為，他們的組織尚未完全具備防止AI被未經(jīng)授權(quán)篡改的能力。此外，67%的受訪者表示，他們對(duì)機(jī)器學(xué)習(xí)特定威脅的了解有限。Patel指出，AI防御正是為了應(yīng)對(duì)這些問題而設(shè)計(jì)的。

他表示：“思科AI防御是一種通用的安全和保護(hù)基礎(chǔ)設(shè)施，適用于任何模型、任何代理、任何應(yīng)用程序以及任何云環(huán)境。”

大規(guī)模模型安全驗(yàn)證

思科AI防御功能主要面向企業(yè)應(yīng)用安全運(yùn)維（AppSecOps）團(tuán)隊(duì)，允許開發(fā)人員在將應(yīng)用程序和代理部署到生產(chǎn)環(huán)境之前，對(duì)AI模型進(jìn)行全面安全驗(yàn)證。

Patel指出，AI模型的挑戰(zhàn)在于它們會(huì)隨著新數(shù)據(jù)的不斷加入而持續(xù)變化，這種動(dòng)態(tài)性可能導(dǎo)致應(yīng)用程序和代理的行為發(fā)生改變。

他說：“如果模型是持續(xù)變化的，那么驗(yàn)證過程也必須是持續(xù)的。”

為了實(shí)現(xiàn)等效于紅隊(duì)測(cè)試的功能，思科于去年收購(gòu)了由哈佛研究人員Yaron Singer和Kojin Oshiba于2019年創(chuàng)立的初創(chuàng)公司Robust Intelligence。這項(xiàng)收購(gòu)成為AI防御的核心組成部分。

Robust Intelligence平臺(tái)通過算法化紅隊(duì)測(cè)試掃描漏洞，并引入了該公司開發(fā)的一種名為“樹狀攻擊剪枝”（Tree of Attacks with Pruning）的方法。這是一種基于AI的自動(dòng)化系統(tǒng)，用于系統(tǒng)性地測(cè)試并破解大模型。

根據(jù)Patel的說法，思科AI防御結(jié)合了生成式AI平臺(tái)提供商Scale AI的檢測(cè)模型、思科Talos威脅情報(bào)以及最近收購(gòu)的Splunk平臺(tái)的遙測(cè)數(shù)據(jù)，以持續(xù)驗(yàn)證模型并自動(dòng)推薦保護(hù)措施。此外，思科設(shè)計(jì)的AI防御還可以通過網(wǎng)絡(luò)結(jié)構(gòu)分發(fā)這些保護(hù)措施。

他說：“這實(shí)際上讓我們能夠?yàn)轵?yàn)證模型是否按預(yù)期運(yùn)行提供專門設(shè)計(jì)的工具，幫助檢測(cè)模型是否會(huì)出現(xiàn)意外行為。大多數(shù)組織通常需要7到10周時(shí)間來(lái)驗(yàn)證一個(gè)模型，而AI防御能夠在30秒內(nèi)完成這一過程，因?yàn)檎麄€(gè)流程是完全自動(dòng)化的。”

行業(yè)首創(chuàng)？

分析人士普遍認(rèn)為，思科是第一家推出能夠在如此大規(guī)模下實(shí)現(xiàn)自動(dòng)化模型驗(yàn)證技術(shù)的重要企業(yè)。

IDC安全與信任研究組副總裁Frank Dickson表示：“我還沒有聽說其他企業(yè)能做到類似的事情。一些企業(yè)嘗試過類似大模型防火墻的技術(shù)，但它們的復(fù)雜性和精細(xì)程度遠(yuǎn)不及思科。這種30秒內(nèi)完成自動(dòng)滲透測(cè)試的能力非常令人印象深刻。”

S&P Global Market Intelligence旗下451 Research信息安全渠道研究總監(jiān)Scott Crawford表示認(rèn)同。他指出，多家大型供應(yīng)商正在以不同方式應(yīng)對(duì)生成式AI的安全問題。

Crawford說：“在思科的案例中，通過收購(gòu)專注于這一領(lǐng)域的初創(chuàng)公司Robust Intelligence，率先采取行動(dòng)，這也成為該計(jì)劃的核心。目前市場(chǎng)上還有許多初創(chuàng)公司活躍在這一領(lǐng)域，其中任何一家都可能成為收購(gòu)目標(biāo)，但這是第一家被大型企業(yè)IT供應(yīng)商收購(gòu)的公司。”

他補(bǔ)充道，隨著針對(duì)脆弱模型攻擊的增多，解決AI安全問題將成為今年的主要焦點(diǎn)。

他說：“我們已經(jīng)看到了一些大模型被利用的案例，專家們也在探討大模型可能被操縱和攻擊的各種方式。”

此類攻擊通常被稱為大模型劫持，攻擊者會(huì)利用提示注入、供應(yīng)鏈攻擊以及數(shù)據(jù)和模型投毒等漏洞發(fā)起攻擊。去年，Sysdig威脅研究團(tuán)隊(duì)發(fā)現(xiàn)了一起典型的大模型劫持事件，攻擊者成功竊取了10個(gè)云托管大模型的云憑證。在這起事件中，攻擊者通過運(yùn)行漏洞版本的Laravel系統(tǒng)（CVE-2021-3129）獲取了這些憑證。

參考資料：https://www.darkreading.com/cloud-security/cisco-previews-ai-defense-cloud-security

聲明：本文來(lái)自安全內(nèi)參，稿件和圖片版權(quán)均歸原作者所有。所涉觀點(diǎn)不代表東方安全立場(chǎng)，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請(qǐng)聯(lián)系rhliu@skdlabs.com，我們將及時(shí)按原作者或權(quán)利人的意愿予以更正。