压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

DeepSeek等生成式人工智能大模型迅速崛起引發(fā)了新一波用戶對隱私保護和數(shù)據(jù)安全的強烈關(guān)注。個人信息作為數(shù)字時代的關(guān)鍵資產(chǎn)，其保護問題不僅關(guān)乎每個人的隱私權(quán)和信息安全，也牽涉到社會的穩(wěn)定和信任體系的建立。

一、我國生成式人工智能的發(fā)展現(xiàn)狀

自2022年11月ChatGPT發(fā)布以來，國產(chǎn)大模型迅速崛起，大致經(jīng)歷三個發(fā)展節(jié)點。

國內(nèi)打響AI“百模大戰(zhàn)”。2023年AI大模型、AIGC技術(shù)引爆全球，包括百度（文心一言）、阿里（通義千問）、華為（盤古3.0）、抖音（豆包）、騰訊（混元）等科技巨頭，以及一批初創(chuàng)企業(yè)、研究機構(gòu)，紛紛投身到大模型開發(fā)浪潮，開啟了“百模大戰(zhàn)”局面。據(jù)《每日經(jīng)濟新聞》不完全統(tǒng)計，截至去年4月底，國內(nèi)共計推出了305個大模型。

DeepSeek重塑全球AI生態(tài)。2025年1月，DeepSeek發(fā)布DeepSeek R1模型，以開源姿態(tài)橫空出世，憑借蒸餾技術(shù)實現(xiàn)從大型復(fù)雜模型到小型高效模型的知識遷移，媲美全球頂尖AI模型。DeepSeek的火爆出圈，重新洗牌“百模大戰(zhàn)”，同時其帶來的開源模式?jīng)_擊波也重塑了全球AI競爭規(guī)則，帶來了一股“開源風(fēng)”。

垂類大模型開啟競速模式。DeepSeek降低了大模型的普惠門檻，使得通用大模型的商業(yè)化進程進入深水區(qū)，目前B端市場的突破關(guān)鍵在于構(gòu)建具備行業(yè)know-how和技術(shù)領(lǐng)先的垂類大模型。2025年兩會政府工作報告中，“人工智能+”行動綱領(lǐng)再次加碼，強調(diào)要支持大模型廣泛應(yīng)用，加快推進AI垂類應(yīng)用。百度、阿里、華為等頭部科技企業(yè)的發(fā)力點開始從通用大模型，轉(zhuǎn)向行業(yè)/領(lǐng)域等垂直大模型，如百度發(fā)布國內(nèi)首個“產(chǎn)業(yè)級”醫(yī)療AI大模型——靈醫(yī)大模型；阿里云推出通義點金（金融）、通義仁心（醫(yī)療）、通義法睿（法律）等八大行業(yè)模型。

二、AI大模型發(fā)展存在的安全問題

在這場AI技術(shù)革命的浪潮中，中國企業(yè)的快速跟進與創(chuàng)新突破令人矚目，但同時也面臨著數(shù)據(jù)安全的嚴峻挑戰(zhàn)。

一是模型開發(fā)階段的“算法黑箱”問題。在技術(shù)開發(fā)中，人工智能所采用的多層級神經(jīng)網(wǎng)絡(luò)算法導(dǎo)致的認知不透明性，使得開發(fā)者本身也無法詳細了解大語言模型到底掌握了何種自然語言統(tǒng)計規(guī)律。這種技術(shù)局限，意味著生成式AI大模型在開發(fā)的預(yù)訓(xùn)練過程中對個人信息的處理也同樣被置于“算法黑箱”之中，從而難以辨析模型開發(fā)階段個人信息數(shù)據(jù)的權(quán)利狀態(tài)與隱私風(fēng)險。

二是模型訓(xùn)練階段的“語料來源”問題。模型訓(xùn)練使用的超大體量訓(xùn)練數(shù)據(jù)中包含了大量的個人信息，其一方面來自開發(fā)者購買或者通過爬蟲技術(shù)獲取的數(shù)據(jù)；另一方面來自模型開發(fā)方在提供服務(wù)時獲取的用戶真實的人機交互數(shù)據(jù)。語料數(shù)據(jù)來源不清會引發(fā)個人信息侵權(quán)、數(shù)據(jù)標注和使用不當?shù)纫幌盗泻弦?guī)問題。

三是模型應(yīng)用階段的“隱私泄露”問題。在使用階段，用戶無意間輸入的個人信息會被模型存儲并應(yīng)用于后續(xù)生成的內(nèi)容，即模型的“記憶效應(yīng)”會貫穿模型整個周期，引發(fā)個人隱私泄露。盡管某些數(shù)據(jù)可能經(jīng)過去標識化處理，但通過多模態(tài)數(shù)據(jù)結(jié)合訓(xùn)練、特征交叉推理等手段，也能精確地揭示出個人的敏感信息。此外，針對模型漏洞，攻擊者可通過精心設(shè)計的提示詞（prompt）注入攻擊，誘導(dǎo)模型輸出其處理的敏感數(shù)據(jù)，從而獲取用戶隱私信息。

四是模型開源階段的“惡意攻擊”問題。自DeepSeek“引爆”開源生態(tài)以來，阿里巴巴、百度、字節(jié)跳動、深度求索、智譜等紛紛開啟開源模式。然而據(jù)公開報告，88.9%的大模型服務(wù)器目前處于“裸奔”狀態(tài)，無需任何認證即可隨意訪問，個人數(shù)據(jù)被惡意獲取和利用的風(fēng)險日益增加。此外，在DeepSeek本地化部署的浪潮下，惡意工具包、API接口過度開放等導(dǎo)致的隱私泄露事件層出不窮，如2025年1月，攻擊者通過非法上傳DeepSeek惡意依賴包引發(fā)供應(yīng)鏈攻擊，大量用戶憑據(jù)遭遇泄露。

五是模型退役階段的“數(shù)據(jù)處理”問題。模型退役時，存儲系統(tǒng)中可能殘留大量包含個人信息的訓(xùn)練數(shù)據(jù)。雖然模型退役階段的數(shù)據(jù)處理需要符合《個人信息保護法》等相關(guān)法律法規(guī)的要求，但是企業(yè)若未能充分進行隱私評估和定期進行退役數(shù)據(jù)的合規(guī)性審查等安全措施，將會大大增加個人信息被竊取或誤用的風(fēng)險。此外，模型退役后官方一般不會再維護該項目，對后續(xù)陸續(xù)發(fā)現(xiàn)的 BUG 也不會出修復(fù)版本，若該模型API接口尚未關(guān)閉，有問題的組件仍可以正常使用，將提升個人隱私泄露風(fēng)險。例如，OpenAI表示，4月30日起GPT-4將被GPT-4o“完全替代”，但GPT-4將繼續(xù)通過API提供使用。

三、國外個人信息保護的監(jiān)管實踐

面對AI大模型發(fā)展過程中暴露出的多重隱私風(fēng)險，全球范圍內(nèi)正在形成“發(fā)展與治理并重”的監(jiān)管共識。各國和地區(qū)基于不同的法律傳統(tǒng)和產(chǎn)業(yè)特點，探索出各具特色的治理路徑。

歐盟：個人信息保護“統(tǒng)一立法+行業(yè)強監(jiān)管”

2018年5月，歐盟委員會發(fā)布的《通用數(shù)據(jù)保護條例》（GDPR）正式施行，取代1995年的《數(shù)據(jù)保護指令》，成為歐盟境內(nèi)個人數(shù)據(jù)保護的統(tǒng)一規(guī)則。2023年12月，歐盟發(fā)布《數(shù)據(jù)法案》（Data Act，將于2025年9月12日生效），進一步規(guī)范數(shù)據(jù)的訪問和使用，加強個人數(shù)據(jù)保護。2024年8月，《人工智能法案》（AIA，2021年4月發(fā)布）正式生效，提出“禁止使用高風(fēng)險的人工智能系統(tǒng)，包括不得社交評分和無差別人臉數(shù)據(jù)采集”，同時明確提出通用AI模型的合規(guī)履行路徑。從立法模式可以看出，歐盟采用橫向統(tǒng)一立法，《通用數(shù)據(jù)保護條例》《數(shù)據(jù)法案》《人工智能法案》共同構(gòu)成AI時代下協(xié)同監(jiān)管的密網(wǎng)。隨著一系列法規(guī)的相繼落地，歐盟的監(jiān)管逐步發(fā)展成“數(shù)據(jù)+硬件+算法”的“布魯塞爾標準”，通過領(lǐng)先制定標準規(guī)則的強監(jiān)管要求，促使境外企業(yè)為歐盟市場單獨開發(fā)合規(guī)版本，倒逼全球供應(yīng)鏈調(diào)整，從而高度保護個人隱私安全。

美國：個人隱私保護“分散式立法+行業(yè)自律”

美國對與個人信息有關(guān)的權(quán)益保護主要處于隱私保護范疇，至今發(fā)展出發(fā)達的隱私權(quán)保護體系，相繼出臺了多部法律加強個人數(shù)據(jù)監(jiān)管。但是，美國聯(lián)邦層面目前沒有統(tǒng)一的個人數(shù)據(jù)保護法案，而是采取了行業(yè)自律與州分散立法相結(jié)合的模式。20世紀60年代至21世紀初，美國通過行業(yè)分散式專門立法，對金融、健康、電信、教育以及兒童在線隱私等特定領(lǐng)域的數(shù)據(jù)保護進行規(guī)定。直到2022年7月，美國眾議院能源和商業(yè)委員會通過了修訂版《美國數(shù)據(jù)隱私和保護法》（ADPPA），該項立法草案將聯(lián)邦標準引入數(shù)據(jù)隱私保護領(lǐng)域，雖然目前仍未全面通過并發(fā)布，但對于構(gòu)建全美范圍內(nèi)個人數(shù)據(jù)保護的國家框架具有重要意義。在州級層面，自2018年《加州消費者隱私法案》（CCPA）頒布以來，州級隱私立法活動持續(xù)上升，到2025年，全美將有8項新的州級隱私法生效，使全美范圍內(nèi)的隱私法律總數(shù)增至25項。雖然目前美國在個人隱私保護方面缺乏國家級法律，但隨著各州立法的不斷推進和公眾對隱私保護意識的提高，未來聯(lián)邦層面可能會出臺更統(tǒng)一的隱私保護法規(guī)。

英國：個人數(shù)據(jù)保護“多項立法+監(jiān)管創(chuàng)新”

英國將個人數(shù)據(jù)安全貫穿至英國數(shù)據(jù)安全監(jiān)管立法的始終，自1981年《有關(guān)個人數(shù)據(jù)自動化處理之個人保護公約》（“歐洲公約”）之后，英國政府為強化對個人數(shù)據(jù)安全的保護陸續(xù)出臺近10部法規(guī)。2018年5月，英國根據(jù)GDPR出臺新版《數(shù)據(jù)保護法》（DPC），且在脫歐后進行了修訂并于2021年1月1日開始實施。2023年3月，英國提出了《數(shù)據(jù)保護及數(shù)字信息（第2號）法案》，對脫歐前的《英國通用數(shù)據(jù)保護條例》（UK GDPR）進行了修訂，以適應(yīng)脫歐后的英國數(shù)據(jù)保護需求。在監(jiān)管方面，早在2015年英國就率先提出“監(jiān)管沙盒”概念，創(chuàng)新人工智能數(shù)據(jù)監(jiān)管模式，允許企業(yè)用真實的消費者信息在市場上測試創(chuàng)新，以此實現(xiàn)在保護創(chuàng)新的同時不會削弱消費者權(quán)益。2023年8月，英國金融行為監(jiān)管局（FCA）將數(shù)字沙盒永久開放，實現(xiàn)了人工智能技術(shù)創(chuàng)新發(fā)展與數(shù)據(jù)隱私保護之間的協(xié)同。可以看出，英國政府注重平衡保護與創(chuàng)新的關(guān)系，以確保數(shù)據(jù)能夠繼續(xù)從歐盟流向英國企業(yè)，促進數(shù)字經(jīng)濟的發(fā)展。

四、國內(nèi)個人信息保護的監(jiān)管趨勢

在全球數(shù)據(jù)治理格局中，中國走出了一條獨具特色的發(fā)展道路。不同于歐美英等地的“統(tǒng)一立法”模式、“監(jiān)管沙盒”機制，中國基于龐大的互聯(lián)網(wǎng)用戶基礎(chǔ)和快速發(fā)展的數(shù)字經(jīng)濟，構(gòu)建了“立法引領(lǐng)、技術(shù)賦能、多元共治”的三維治理體系。從2012年首次提出網(wǎng)絡(luò)信息保護，到2021年《個人信息保護法》實施，再到2025年推出合規(guī)審計制度（《個人信息保護合規(guī)審計管理辦法》），中國用十年時間完成了從跟跑到并跑，最終形成自身特色的跨越式發(fā)展。

最新出臺的《審計辦法》標志著我國個人信息保護監(jiān)管從“立法完善”正式邁入“執(zhí)法深化”階段。一是雙軌治理，政府監(jiān)管+行業(yè)自律。《審計辦法》構(gòu)建了一個“企業(yè)自查+第三方審計+行政監(jiān)管”的三層治理體系，即國家網(wǎng)信部門和相關(guān)保護部門負責(zé)監(jiān)管，企業(yè)需要定期自查，必要時委托專業(yè)機構(gòu)進行審計。二是靶向監(jiān)管，明確數(shù)量門檻。《審計辦法》提高了審計觸發(fā)門檻、量化風(fēng)險標準、限縮審計客體，使監(jiān)管部門更聚焦于涉及個人數(shù)據(jù)量龐大的高風(fēng)險主體，從而避免“撒網(wǎng)式監(jiān)管”導(dǎo)致的資源浪費。三是合規(guī)轉(zhuǎn)變，從被動到主動。《審計辦法》顛覆了傳統(tǒng)的監(jiān)管模式，將“事后懲罰”監(jiān)管重心前移至“事前預(yù)防”階段，迫使企業(yè)從“被動合規(guī)”轉(zhuǎn)向“主動合規(guī)”，倒逼大型互聯(lián)網(wǎng)企業(yè)建立內(nèi)部的合規(guī)審計團隊，引入外部獨立監(jiān)督機構(gòu)，并定期對其數(shù)據(jù)處理活動進行全面審查。四是生態(tài)構(gòu)建，“單一監(jiān)管”到“多元共治”。《個人信息保護法》明確了國家網(wǎng)信部門統(tǒng)籌、多部門協(xié)同的監(jiān)管框架。《審計辦法》進一步構(gòu)建了“政府、市場、社會”共治的生態(tài)體系，形成“法律約束、市場驅(qū)動、社會監(jiān)督”的治理閉環(huán)。

參考文獻：

[1]賽博研究院.《個人信息保護合規(guī)審計管理辦法》深度解析：新規(guī)重點及合規(guī)策略[EB/OL].（2025-02-17）

[2]黃锫. 生成式AI對個人信息保護的挑戰(zhàn)與風(fēng)險規(guī)制[J].現(xiàn)代法學(xué)，2004(4):101-115.

[3]徐明. 生成式人工智能大模型的安全挑戰(zhàn)與治理路徑研究[J].信息通信技術(shù)與政策，2025，51(1):10-19.

[4]潘松、朱豆豆.《個人信息保護合規(guī)審計管理辦法》及指引八大核心修訂和監(jiān)管趨勢解讀[EB/OL].（2025-02-17）

[5]張立彬. 美英新個人信息保護政策法規(guī)的考察與借鑒[J].情報理論與實踐，2020，43(6):200-206.

[6]Liu, K. Laws, Regulations and Regulatory System of Personal Data Privacy Protection in the United States. Journal of Science and Technology for Development,2019, 35(4), 4-11.

[7]European Data Protection Law Review. (n.d.). GDPR enforcement trends and global data protection implications. European Data Protection Law Review.

文章作者：賽博研究院咨詢經(jīng)理 狄冉

聲明：本文來自賽博研究院，稿件和圖片版權(quán)均歸原作者所有。所涉觀點不代表東方安全立場，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請聯(lián)系rhliu@skdlabs.com，我們將及時按原作者或權(quán)利人的意愿予以更正。