DeepSeek火爆背后：個人隱私“陷阱”與應對策略
責編：gltian ｜2025-04-18 14:16:14DeepSeek等生成式人工智能大模型迅速崛起引發了新一波用戶對隱私保護和數據安全的強烈關注。個人信息作為數字時代的關鍵資產，其保護問題不僅關乎每個人的隱私權和信息安全，也牽涉到社會的穩定和信任體系的建立。
一、我國生成式人工智能的發展現狀
自2022年11月ChatGPT發布以來，國產大模型迅速崛起，大致經歷三個發展節點。
國內打響AI“百模大戰”。2023年AI大模型、AIGC技術引爆全球，包括百度（文心一言）、阿里（通義千問）、華為（盤古3.0）、抖音（豆包）、騰訊（混元）等科技巨頭，以及一批初創企業、研究機構，紛紛投身到大模型開發浪潮，開啟了“百模大戰”局面。據《每日經濟新聞》不完全統計，截至去年4月底，國內共計推出了305個大模型。
DeepSeek重塑全球AI生態。2025年1月，DeepSeek發布DeepSeek R1模型，以開源姿態橫空出世，憑借蒸餾技術實現從大型復雜模型到小型高效模型的知識遷移，媲美全球頂尖AI模型。DeepSeek的火爆出圈，重新洗牌“百模大戰”，同時其帶來的開源模式沖擊波也重塑了全球AI競爭規則，帶來了一股“開源風”。
垂類大模型開啟競速模式。DeepSeek降低了大模型的普惠門檻，使得通用大模型的商業化進程進入深水區，目前B端市場的突破關鍵在于構建具備行業know-how和技術領先的垂類大模型。2025年兩會政府工作報告中，“人工智能+”行動綱領再次加碼，強調要支持大模型廣泛應用，加快推進AI垂類應用。百度、阿里、華為等頭部科技企業的發力點開始從通用大模型，轉向行業/領域等垂直大模型，如百度發布國內首個“產業級”醫療AI大模型——靈醫大模型；阿里云推出通義點金（金融）、通義仁心（醫療）、通義法睿（法律）等八大行業模型。
二、AI大模型發展存在的安全問題
在這場AI技術革命的浪潮中，中國企業的快速跟進與創新突破令人矚目，但同時也面臨著數據安全的嚴峻挑戰。
一是模型開發階段的“算法黑箱”問題。在技術開發中，人工智能所采用的多層級神經網絡算法導致的認知不透明性，使得開發者本身也無法詳細了解大語言模型到底掌握了何種自然語言統計規律。這種技術局限，意味著生成式AI大模型在開發的預訓練過程中對個人信息的處理也同樣被置于“算法黑箱”之中，從而難以辨析模型開發階段個人信息數據的權利狀態與隱私風險。
二是模型訓練階段的“語料來源”問題。模型訓練使用的超大體量訓練數據中包含了大量的個人信息，其一方面來自開發者購買或者通過爬蟲技術獲取的數據；另一方面來自模型開發方在提供服務時獲取的用戶真實的人機交互數據。語料數據來源不清會引發個人信息侵權、數據標注和使用不當等一系列合規問題。
三是模型應用階段的“隱私泄露”問題。在使用階段，用戶無意間輸入的個人信息會被模型存儲并應用于后續生成的內容，即模型的“記憶效應”會貫穿模型整個周期，引發個人隱私泄露。盡管某些數據可能經過去標識化處理，但通過多模態數據結合訓練、特征交叉推理等手段，也能精確地揭示出個人的敏感信息。此外，針對模型漏洞，攻擊者可通過精心設計的提示詞（prompt）注入攻擊，誘導模型輸出其處理的敏感數據，從而獲取用戶隱私信息。
四是模型開源階段的“惡意攻擊”問題。自DeepSeek“引爆”開源生態以來，阿里巴巴、百度、字節跳動、深度求索、智譜等紛紛開啟開源模式。然而據公開報告，88.9%的大模型服務器目前處于“裸奔”狀態，無需任何認證即可隨意訪問，個人數據被惡意獲取和利用的風險日益增加。此外，在DeepSeek本地化部署的浪潮下，惡意工具包、API接口過度開放等導致的隱私泄露事件層出不窮，如2025年1月，攻擊者通過非法上傳DeepSeek惡意依賴包引發供應鏈攻擊，大量用戶憑據遭遇泄露。
五是模型退役階段的“數據處理”問題。模型退役時，存儲系統中可能殘留大量包含個人信息的訓練數據。雖然模型退役階段的數據處理需要符合《個人信息保護法》等相關法律法規的要求，但是企業若未能充分進行隱私評估和定期進行退役數據的合規性審查等安全措施，將會大大增加個人信息被竊取或誤用的風險。此外，模型退役后官方一般不會再維護該項目，對后續陸續發現的 BUG 也不會出修復版本，若該模型API接口尚未關閉，有問題的組件仍可以正常使用，將提升個人隱私泄露風險。例如，OpenAI表示，4月30日起GPT-4將被GPT-4o“完全替代”，但GPT-4將繼續通過API提供使用。
三、國外個人信息保護的監管實踐
面對AI大模型發展過程中暴露出的多重隱私風險，全球范圍內正在形成“發展與治理并重”的監管共識。各國和地區基于不同的法律傳統和產業特點，探索出各具特色的治理路徑。
歐盟：個人信息保護“統一立法+行業強監管”
2018年5月，歐盟委員會發布的《通用數據保護條例》（GDPR）正式施行，取代1995年的《數據保護指令》，成為歐盟境內個人數據保護的統一規則。2023年12月，歐盟發布《數據法案》（Data Act，將于2025年9月12日生效），進一步規范數據的訪問和使用，加強個人數據保護。2024年8月，《人工智能法案》（AIA，2021年4月發布）正式生效，提出“禁止使用高風險的人工智能系統，包括不得社交評分和無差別人臉數據采集”，同時明確提出通用AI模型的合規履行路徑。從立法模式可以看出，歐盟采用橫向統一立法，《通用數據保護條例》《數據法案》《人工智能法案》共同構成AI時代下協同監管的密網。隨著一系列法規的相繼落地，歐盟的監管逐步發展成“數據+硬件+算法”的“布魯塞爾標準”，通過領先制定標準規則的強監管要求，促使境外企業為歐盟市場單獨開發合規版本，倒逼全球供應鏈調整，從而高度保護個人隱私安全。
美國：個人隱私保護“分散式立法+行業自律”
美國對與個人信息有關的權益保護主要處于隱私保護范疇，至今發展出發達的隱私權保護體系，相繼出臺了多部法律加強個人數據監管。但是，美國聯邦層面目前沒有統一的個人數據保護法案，而是采取了行業自律與州分散立法相結合的模式。20世紀60年代至21世紀初，美國通過行業分散式專門立法，對金融、健康、電信、教育以及兒童在線隱私等特定領域的數據保護進行規定。直到2022年7月，美國眾議院能源和商業委員會通過了修訂版《美國數據隱私和保護法》（ADPPA），該項立法草案將聯邦標準引入數據隱私保護領域，雖然目前仍未全面通過并發布，但對于構建全美范圍內個人數據保護的國家框架具有重要意義。在州級層面，自2018年《加州消費者隱私法案》（CCPA）頒布以來，州級隱私立法活動持續上升，到2025年，全美將有8項新的州級隱私法生效，使全美范圍內的隱私法律總數增至25項。雖然目前美國在個人隱私保護方面缺乏國家級法律，但隨著各州立法的不斷推進和公眾對隱私保護意識的提高，未來聯邦層面可能會出臺更統一的隱私保護法規。
英國：個人數據保護“多項立法+監管創新”
英國將個人數據安全貫穿至英國數據安全監管立法的始終，自1981年《有關個人數據自動化處理之個人保護公約》（“歐洲公約”）之后，英國政府為強化對個人數據安全的保護陸續出臺近10部法規。2018年5月，英國根據GDPR出臺新版《數據保護法》（DPC），且在脫歐后進行了修訂并于2021年1月1日開始實施。2023年3月，英國提出了《數據保護及數字信息（第2號）法案》，對脫歐前的《英國通用數據保護條例》（UK GDPR）進行了修訂，以適應脫歐后的英國數據保護需求。在監管方面，早在2015年英國就率先提出“監管沙盒”概念，創新人工智能數據監管模式，允許企業用真實的消費者信息在市場上測試創新，以此實現在保護創新的同時不會削弱消費者權益。2023年8月，英國金融行為監管局（FCA）將數字沙盒永久開放，實現了人工智能技術創新發展與數據隱私保護之間的協同。可以看出，英國政府注重平衡保護與創新的關系，以確保數據能夠繼續從歐盟流向英國企業，促進數字經濟的發展。
四、國內個人信息保護的監管趨勢
在全球數據治理格局中，中國走出了一條獨具特色的發展道路。不同于歐美英等地的“統一立法”模式、“監管沙盒”機制，中國基于龐大的互聯網用戶基礎和快速發展的數字經濟，構建了“立法引領、技術賦能、多元共治”的三維治理體系。從2012年首次提出網絡信息保護，到2021年《個人信息保護法》實施，再到2025年推出合規審計制度（《個人信息保護合規審計管理辦法》），中國用十年時間完成了從跟跑到并跑，最終形成自身特色的跨越式發展。
最新出臺的《審計辦法》標志著我國個人信息保護監管從“立法完善”正式邁入“執法深化”階段。一是雙軌治理，政府監管+行業自律。《審計辦法》構建了一個“企業自查+第三方審計+行政監管”的三層治理體系，即國家網信部門和相關保護部門負責監管，企業需要定期自查，必要時委托專業機構進行審計。二是靶向監管，明確數量門檻。《審計辦法》提高了審計觸發門檻、量化風險標準、限縮審計客體，使監管部門更聚焦于涉及個人數據量龐大的高風險主體，從而避免“撒網式監管”導致的資源浪費。三是合規轉變，從被動到主動。《審計辦法》顛覆了傳統的監管模式，將“事后懲罰”監管重心前移至“事前預防”階段，迫使企業從“被動合規”轉向“主動合規”，倒逼大型互聯網企業建立內部的合規審計團隊，引入外部獨立監督機構，并定期對其數據處理活動進行全面審查。四是生態構建，“單一監管”到“多元共治”。《個人信息保護法》明確了國家網信部門統籌、多部門協同的監管框架。《審計辦法》進一步構建了“政府、市場、社會”共治的生態體系，形成“法律約束、市場驅動、社會監督”的治理閉環。
參考文獻：
[1]賽博研究院.《個人信息保護合規審計管理辦法》深度解析：新規重點及合規策略[EB/OL].（2025-02-17）
[2]黃锫. 生成式AI對個人信息保護的挑戰與風險規制[J].現代法學，2004(4):101-115.
[3]徐明. 生成式人工智能大模型的安全挑戰與治理路徑研究[J].信息通信技術與政策，2025，51(1):10-19.
[4]潘松、朱豆豆.《個人信息保護合規審計管理辦法》及指引八大核心修訂和監管趨勢解讀[EB/OL].（2025-02-17）
[5]張立彬. 美英新個人信息保護政策法規的考察與借鑒[J].情報理論與實踐，2020，43(6):200-206.
[6]Liu, K. Laws, Regulations and Regulatory System of Personal Data Privacy Protection in the United States. Journal of Science and Technology for Development,2019, 35(4), 4-11.
[7]European Data Protection Law Review. (n.d.). GDPR enforcement trends and global data protection implications. European Data Protection Law Review.
文章作者：賽博研究院咨詢經理 狄冉