压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

以ChatGPT、DeepSeek等為代表的生成式人工智能技術(shù)的廣泛應(yīng)用，正在深刻重塑網(wǎng)絡(luò)空間安全領(lǐng)域的技術(shù)競(jìng)爭(zhēng)格局。從技術(shù)賦能角度看，這類技術(shù)憑借強(qiáng)大的內(nèi)容生成能力和態(tài)勢(shì)感知分析能力，可顯著提升網(wǎng)絡(luò)信息處理效率，強(qiáng)化對(duì)網(wǎng)絡(luò)威脅的智能識(shí)別、精準(zhǔn)預(yù)警和快速響應(yīng)能力，推動(dòng)傳統(tǒng)網(wǎng)絡(luò)安全防護(hù)模式向主動(dòng)防御方向革新。然而，與之相伴的是深度偽造技術(shù)泛濫、算法濫用風(fēng)險(xiǎn)凸顯、模型竊取攻擊頻發(fā)等新型安全威脅持續(xù)涌現(xiàn)，對(duì)現(xiàn)有網(wǎng)絡(luò)安全治理體系、監(jiān)管框架及應(yīng)對(duì)策略形成全方位挑戰(zhàn)。在此背景下，亟需深刻認(rèn)識(shí)生成式人工智能給網(wǎng)絡(luò)安全帶來的新變化、新風(fēng)險(xiǎn)與新挑戰(zhàn)，推動(dòng)構(gòu)建現(xiàn)代化的網(wǎng)絡(luò)安全制度體系，為推進(jìn)國家網(wǎng)絡(luò)安全能力建設(shè)提供堅(jiān)實(shí)支撐。

一、生成式人工智能在網(wǎng)絡(luò)空間的應(yīng)用現(xiàn)狀

為應(yīng)對(duì)網(wǎng)絡(luò)安全領(lǐng)域快速演進(jìn)且不斷加劇的風(fēng)險(xiǎn)，世界主要國家加速戰(zhàn)略布局，通過技術(shù)研發(fā)、行業(yè)應(yīng)用及立法監(jiān)管等多維路徑，推進(jìn)生成式人工智能在網(wǎng)絡(luò)空間的部署和應(yīng)用，促進(jìn)國家數(shù)字化轉(zhuǎn)型，應(yīng)對(duì)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、保障國家安全。

（一）全球主要國家和地區(qū)的進(jìn)展布局

當(dāng)前，全球主要國家和地區(qū)普遍通過技術(shù)研發(fā)、行業(yè)應(yīng)用及立法監(jiān)管等方式，積極推動(dòng)生成式人工智能在網(wǎng)絡(luò)空間的落地應(yīng)用。美國政府持續(xù)強(qiáng)化技術(shù)投資與產(chǎn)業(yè)協(xié)同。2024年1月，OpenAI公司修訂了關(guān)于禁止其大模型技術(shù)用于軍事用途的條款，并與美國國防部聯(lián)合開展網(wǎng)絡(luò)安全防護(hù)系統(tǒng)研發(fā)。2025年3月，歐盟委員會(huì)發(fā)布《數(shù)字歐洲計(jì)劃（2025-2027年）工作方案》，斥資13億歐元用于人工智能的部署及其在企業(yè)和公共管理、云計(jì)算、網(wǎng)絡(luò)韌性和數(shù)字技能方面的應(yīng)用。

（二）生成式人工智能在網(wǎng)絡(luò)空間領(lǐng)域的典型應(yīng)用

生成式人工智能基于強(qiáng)大的通用性能力可以在網(wǎng)絡(luò)空間領(lǐng)域廣泛應(yīng)用，其中包括輿情操控、敏感信息獲取和網(wǎng)絡(luò)攻防等方面。

一是精準(zhǔn)內(nèi)容生成改變輿情操控模式。借助多模態(tài)大語言模型，用戶可實(shí)現(xiàn)低成本、智能化、個(gè)性化的內(nèi)容創(chuàng)作，大幅提升信息生成與傳播效率。目前，社交機(jī)器人已成為社交網(wǎng)絡(luò)信息傳播的重要媒介。以社交媒體平臺(tái)X為例，在3.19億月活躍用戶中機(jī)器人賬戶達(dá)4800萬，占比15%。新一代生成式人工智能產(chǎn)品在擬人化、自主交互等方面優(yōu)勢(shì)顯著，具備自然流暢的語言表達(dá)與定制人設(shè)能力，主動(dòng)參與輿論傳播，成為事實(shí)上的“虛擬用戶主體”。其在低成本、規(guī)模化生成內(nèi)容的同時(shí)，也具備更強(qiáng)的輿論操控潛力，可精準(zhǔn)傳播特定信息，放大影響效應(yīng)。在烏克蘭危機(jī)、涉華議題等敏感話題中，已監(jiān)測(cè)到多起利用此類技術(shù)制造和傳播虛假信息的案例，成為當(dāng)前網(wǎng)絡(luò)空間安全和輿情治理面臨的重要挑戰(zhàn)之一。

二是智能化分析決策便利敏感數(shù)據(jù)獲取。生成式人工智能通過整合多源數(shù)據(jù)與語義理解，強(qiáng)化敏感信息識(shí)別與重構(gòu)能力，推動(dòng)數(shù)據(jù)獲取向高效精準(zhǔn)演進(jìn)。攻擊者利用大模型的推理特性，可從公開信息推斷敏感數(shù)據(jù)，甚至還原脫敏內(nèi)容，形成新型泄露風(fēng)險(xiǎn)。其自然語言交互能力可生成高欺騙性釣魚信息，提升社會(huì)工程攻擊成功率。同時(shí)，大模型能夠自動(dòng)識(shí)別網(wǎng)絡(luò)中存在的接口漏洞或權(quán)限控制薄弱點(diǎn)，從而輔助攻擊者精確定位敏感數(shù)據(jù)存儲(chǔ)位置并發(fā)起攻擊。結(jié)合多模態(tài)技術(shù)，還可從圖像、音頻等非結(jié)構(gòu)化數(shù)據(jù)中提取敏感信息，實(shí)現(xiàn)跨平臺(tái)數(shù)據(jù)匯聚，顯著擴(kuò)展了敏感數(shù)據(jù)泄露的攻擊面。

三是高仿真演練推動(dòng)網(wǎng)絡(luò)攻防技術(shù)轉(zhuǎn)型升級(jí)。隨著生成式人工智能技術(shù)的快速發(fā)展，網(wǎng)絡(luò)攻防演練的形式與內(nèi)涵正加速向高仿真、智能化方向轉(zhuǎn)型升級(jí)。基于大模型驅(qū)動(dòng)的內(nèi)容生成與策略規(guī)劃能力，網(wǎng)絡(luò)靶場(chǎng)建設(shè)與實(shí)戰(zhàn)化演訓(xùn)手段得到顯著提升，為網(wǎng)絡(luò)安全防護(hù)體系的實(shí)戰(zhàn)檢驗(yàn)和技術(shù)優(yōu)化提供了更加逼真的對(duì)抗環(huán)境和動(dòng)態(tài)推演能力。傳統(tǒng)網(wǎng)絡(luò)攻防演練通常依賴預(yù)設(shè)腳本與靜態(tài)攻擊路徑，難以全面反映復(fù)雜多變的實(shí)戰(zhàn)場(chǎng)景。而生成式人工智能可在攻擊側(cè)自動(dòng)生成多樣化攻擊樣本與行為路徑，有效提升攻擊模擬的多樣性與不可預(yù)測(cè)性。同時(shí)，在防御側(cè)，大模型可對(duì)系統(tǒng)響應(yīng)進(jìn)行實(shí)時(shí)分析，自動(dòng)調(diào)整防御策略并評(píng)估處置效果，構(gòu)建“虛實(shí)結(jié)合”的閉環(huán)攻防對(duì)抗體系。

二、生成式人工智能對(duì)我國網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)挑戰(zhàn)

當(dāng)前，我國網(wǎng)絡(luò)安全環(huán)境既面臨機(jī)遇也伴隨著挑戰(zhàn)。生成式人工智能技術(shù)在內(nèi)容生成與傳播、智能化分析決策、技術(shù)攻防等方面的應(yīng)用，為我國在網(wǎng)絡(luò)安全領(lǐng)域帶來了新的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括意識(shí)形態(tài)滲透、敏感數(shù)據(jù)竊取以及精準(zhǔn)化網(wǎng)絡(luò)攻擊等方面。

（一）對(duì)我國意識(shí)形態(tài)滲透與政治認(rèn)知操控的風(fēng)險(xiǎn)

生成式人工智能有可能成為干擾我國政治意識(shí)形態(tài)安全的新型工具。一方面，通過深度偽造、信息操控等技術(shù)手段，低成本、規(guī)模化生產(chǎn)具有迷惑性的虛假信息，沖擊主流價(jià)值體系，削弱公眾對(duì)政治權(quán)威的信任基礎(chǔ)。另一方面，以國外先進(jìn)生成式人工智能工具為例，存在對(duì)我國政治和輿論事務(wù)的干擾與意識(shí)形態(tài)影響的風(fēng)險(xiǎn)，如某境外勢(shì)力利用生成式人工智能偽造“某邊疆地區(qū)沖突視頻”，通過社交媒體同步轉(zhuǎn)發(fā)，單日傳播量超過2.3億人次，導(dǎo)致地方政府公信力受損。不法分子通過“AI換臉”“AI合聲”等方式，偽造政府領(lǐng)導(dǎo)干部見面、合影、講話等內(nèi)容，實(shí)施詐騙或在工作群大規(guī)模誤傳，增加了涉政類事件的欺騙性和危害性。此外，還有攻擊者惡意使用生成式人工智能制作包含錯(cuò)誤歷史觀的內(nèi)容，通過算法推薦向青少年群體滲透。在2019年的中美貿(mào)易戰(zhàn)期間，社交媒體平臺(tái)X上有13%的社交機(jī)器人賬號(hào)參與相關(guān)議題討論并發(fā)布了占比近20%的內(nèi)容；2022年初在烏克蘭危機(jī)爆發(fā)前后一周內(nèi)，該平臺(tái)上有22.5%的社交機(jī)器人賬號(hào)參與了“俄烏局勢(shì)”涉華議題討論。

（二）對(duì)我國網(wǎng)絡(luò)數(shù)據(jù)主權(quán)安全與敏感信息泄露的風(fēng)險(xiǎn)

數(shù)據(jù)作為人工智能的核心要素，對(duì)其控制與應(yīng)用已形成獨(dú)特的主導(dǎo)性力量。世界主要國家和地區(qū)視數(shù)據(jù)為國家戰(zhàn)略資產(chǎn)，爭(zhēng)取數(shù)據(jù)的最大利益。在強(qiáng)化數(shù)據(jù)安全保護(hù)的同時(shí)，逐步將數(shù)據(jù)主權(quán)納入國家安全框架，或?qū)⒁l(fā)圍繞數(shù)據(jù)資源的新一輪國際博弈。網(wǎng)絡(luò)空間的虛擬性與泛在性使數(shù)據(jù)主權(quán)面臨雙重挑戰(zhàn)：一方面，生成式人工智能的推廣增強(qiáng)了數(shù)據(jù)資源主導(dǎo)國對(duì)他國數(shù)據(jù)攫取、監(jiān)控的可能性，部分國家以“國家安全”為由，通過技術(shù)封鎖抑制他國數(shù)字服務(wù)發(fā)展，利用算法優(yōu)勢(shì)實(shí)施數(shù)據(jù)掠奪。數(shù)據(jù)資源主導(dǎo)國憑借技術(shù)壟斷地位，對(duì)他國在軍事、科技、經(jīng)濟(jì)等核心領(lǐng)域的敏感數(shù)據(jù)進(jìn)行“黑箱”操作，嚴(yán)重影響了他國國家安全，削弱他國政府行為的機(jī)密性與安全性。另一方面，個(gè)人信息泄露風(fēng)險(xiǎn)呈現(xiàn)多維度滲透特征，當(dāng)普通用戶與生成式人工智能工具進(jìn)行雙向交互時(shí)，其語言特征、行為習(xí)慣等數(shù)據(jù)被持續(xù)采集分析。值得注意的是，這種數(shù)據(jù)收集機(jī)制同樣可能延伸至政治精英層面——通過分析國家領(lǐng)導(dǎo)人的語言風(fēng)格、決策偏好等行為特征，構(gòu)建精準(zhǔn)的數(shù)字化人格畫像，進(jìn)而實(shí)現(xiàn)行為預(yù)測(cè)與決策推演，這對(duì)國家治理安全構(gòu)成潛在威脅。

（三）對(duì)我國實(shí)施大規(guī)模、精準(zhǔn)化網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)

隨著生成式人工智能技術(shù)在網(wǎng)絡(luò)空間的深度應(yīng)用，網(wǎng)絡(luò)攻擊的復(fù)雜性和規(guī)模不斷增加。當(dāng)前，網(wǎng)絡(luò)攻擊工具、攻擊頻度、攻擊智能化水平不斷提升，基于生成式人工智能的大規(guī)模分布式拒絕服務(wù)攻擊、惡意攻擊代碼生成、網(wǎng)絡(luò)漏洞滲透測(cè)試等攻擊手段趨于成熟，降低了網(wǎng)絡(luò)犯罪實(shí)施門檻。根據(jù)奇安信《2024人工智能安全報(bào)告》，2023年，基于人工智能的深度偽造欺詐行為增長(zhǎng)了30倍，基于人工智能的釣魚郵件增加了10倍，并且有多個(gè)高級(jí)持續(xù)性威脅組織利用人工智能實(shí)施了10多起攻擊事件。2025年1月，某境外組織試圖通過篡改我國西北能源基地路由器DNS，阻斷數(shù)據(jù)傳輸，意圖引發(fā)區(qū)域性停電事故。2025年2月，第九屆亞冬會(huì)期間，美國國家安全局針對(duì)賽事信息系統(tǒng)及黑龍江省能源、交通、國防科研等關(guān)鍵領(lǐng)域發(fā)動(dòng)27萬次攻擊，企圖竊取運(yùn)動(dòng)員生物特征數(shù)據(jù)并制造社會(huì)混亂。此類事件表明，人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊已從技術(shù)驗(yàn)證階段演進(jìn)為具有明確戰(zhàn)略意圖的實(shí)戰(zhàn)威脅。

三、應(yīng)對(duì)策略

面對(duì)網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)升級(jí)與戰(zhàn)略轉(zhuǎn)型，我國應(yīng)以總體國家安全觀為指引，構(gòu)建適應(yīng)新形勢(shì)的多元化、現(xiàn)代化網(wǎng)絡(luò)安全治理體系，通過制度建設(shè)、人才培養(yǎng)、監(jiān)督監(jiān)管和話語權(quán)塑造等多維度協(xié)同發(fā)力，全面提升網(wǎng)絡(luò)安全能力。

（一）完善網(wǎng)絡(luò)安全制度體系建設(shè)

針對(duì)生成式人工智能帶來的突破傳統(tǒng)安全邊界的威脅，需要在現(xiàn)有網(wǎng)絡(luò)安全治理路徑的基礎(chǔ)上，構(gòu)建和發(fā)展以“立法約束-標(biāo)準(zhǔn)規(guī)范-執(zhí)行監(jiān)督”三位一體的治理體系。一是借鑒歐盟《人工智能法案》立法經(jīng)驗(yàn)，建立人工智能生成內(nèi)容分級(jí)管理制度，對(duì)意識(shí)形態(tài)相關(guān)輸出實(shí)施“人工審核+AI監(jiān)測(cè)”雙重篩查機(jī)制。推進(jìn)生成式人工智能領(lǐng)域的專項(xiàng)立法進(jìn)程，進(jìn)一步完善《生成式人工智能服務(wù)管理暫行辦法》的相關(guān)規(guī)定，促進(jìn)生成式人工智能在網(wǎng)絡(luò)安全領(lǐng)域中治理目標(biāo)、治理機(jī)制的統(tǒng)一。二是建立動(dòng)態(tài)安全標(biāo)準(zhǔn)體系，推進(jìn)制定生成式人工智能數(shù)據(jù)標(biāo)注、深度偽造技術(shù)檢測(cè)等相關(guān)的技術(shù)規(guī)范。在金融、能源等核心領(lǐng)域推行“數(shù)據(jù)安全護(hù)欄”技術(shù)標(biāo)準(zhǔn)，確保敏感數(shù)據(jù)處理過程可管可控；三是強(qiáng)化跨部門協(xié)同治理機(jī)制。建議由有關(guān)部門聯(lián)合組建“人工智能安全聯(lián)合指揮中心”，建立威脅情報(bào)共享與聯(lián)合處置機(jī)制。

（二）加速重大技術(shù)創(chuàng)新與人才培養(yǎng)

新興技術(shù)的發(fā)展具有長(zhǎng)期性和系統(tǒng)性特征，往往受到多重因素的影響，例如基礎(chǔ)研究突破、人才隊(duì)伍建設(shè)、相關(guān)政策扶持等方面。為在全球生成式人工智能競(jìng)賽中占據(jù)戰(zhàn)略主動(dòng)，我國亟需破除影響技術(shù)發(fā)展的體制機(jī)制障礙，充分釋放生成式人工智能的創(chuàng)新動(dòng)能。一方面，在生成式人工智能技術(shù)不斷加速發(fā)展的現(xiàn)實(shí)情況下，我國應(yīng)積極推動(dòng)生成式人工智能的基礎(chǔ)理論發(fā)展與重大技術(shù)應(yīng)用的突破。調(diào)動(dòng)研發(fā)、應(yīng)用鏈的各參與主體，實(shí)現(xiàn)互動(dòng)協(xié)同，共同提升大模型研發(fā)中的原始創(chuàng)新能力。另一方面，新興技術(shù)的發(fā)展離不開人才。構(gòu)建以青年托舉人才、青年拔尖人才、領(lǐng)軍人才等為主體的階梯式人工智能人才成長(zhǎng)體系，通過一系列特殊政策、硬核措施，重點(diǎn)支持培養(yǎng)高水平工程師和高技能人才。推動(dòng)構(gòu)建高等學(xué)校、企業(yè)、研究機(jī)構(gòu)三位一體的人工智能應(yīng)用人才培養(yǎng)模式，鼓勵(lì)企業(yè)與高校聯(lián)合設(shè)計(jì)研究項(xiàng)目和實(shí)習(xí)計(jì)劃，幫助學(xué)生將理論知識(shí)和實(shí)際應(yīng)用場(chǎng)景結(jié)合。同時(shí)，政府加大對(duì)人工智能人才與網(wǎng)絡(luò)安全人才的政策支持力度，推動(dòng)網(wǎng)絡(luò)安全與人工智能創(chuàng)新復(fù)合型人才的培養(yǎng)。

（三）構(gòu)建全球網(wǎng)絡(luò)空間話語體系

習(xí)近平總書記指出，“掌握網(wǎng)絡(luò)意識(shí)形態(tài)主導(dǎo)權(quán)，就是守護(hù)國家的主權(quán)和政權(quán)”，強(qiáng)調(diào)“要把網(wǎng)上輿論工作作為宣傳思想工作的重中之重來抓”。在網(wǎng)絡(luò)安全治理工作中，堅(jiān)持統(tǒng)籌發(fā)展和安全的重要原則，推進(jìn)我國在全球互聯(lián)網(wǎng)治理體系中的話語體系建設(shè)。從國際形勢(shì)來看，西方國家長(zhǎng)期壟斷國際傳播話語權(quán)，通過渲染“中國威脅論”在國際社會(huì)中制造安全焦慮情緒，同時(shí)肆意歪曲我國國際形象，致使我國網(wǎng)絡(luò)空間主權(quán)維護(hù)面臨嚴(yán)峻挑戰(zhàn)。為此，在國內(nèi)層面，我國應(yīng)優(yōu)化宣傳工作和網(wǎng)絡(luò)輿論引導(dǎo)，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)和治理，豐富主流話語表達(dá)方式和敘事策略，從而促使數(shù)字文化繁榮和文化自強(qiáng)。在國際層面，積極適應(yīng)國際輿論環(huán)境的發(fā)展變化，探索符合國際傳播語境的主流話語形態(tài)，充分發(fā)揮主流媒體在國際傳播中的積極作用，不斷拓展中國話語的全球敘事空間與價(jià)值認(rèn)同基礎(chǔ)。

（本文刊登于《中國信息安全》雜志2025年第3期）

聲明：本文來自中國信息安全，稿件和圖片版權(quán)均歸原作者所有。所涉觀點(diǎn)不代表東方安全立場(chǎng)，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請(qǐng)聯(lián)系rhliu@skdlabs.com，我們將及時(shí)按原作者或權(quán)利人的意愿予以更正。