压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

近年來，隨著人工智能領域的迅猛發(fā)展，各種AI語言模型如雨后春筍般涌現(xiàn)。這些模型通過學習海量數(shù)據(jù)，能夠生成高質(zhì)量的內(nèi)容。用戶只需要輸入具體需求或提供參考性文檔資料，即可一鍵生成所需的文章，這在一定程度上極大地提升了工作效率。然而，用戶在處理組織敏感數(shù)據(jù)時，如果不正確使用或忽視數(shù)據(jù)安全的重要性，就有可能給組織的敏感數(shù)據(jù)帶來嚴重的安全隱患。

從合規(guī)角度來看，AI語言模型應該嚴格遵守行業(yè)規(guī)范，按規(guī)定履行算法備案手續(xù)和合規(guī)義務，遵循合法性、公平性、透明度、目的限制、數(shù)據(jù)最小化、準確性、存儲限制、完整性和保密性等原則，從而確保為用戶提供高效服務的同時保障用戶數(shù)據(jù)安全，避免違規(guī)收集或使用用戶上傳的數(shù)據(jù)。

盡管如此，當前AI語言模型種類繁多，其中難免會有某些模型存在違規(guī)收集用戶輸入數(shù)據(jù)的問題，這無疑給組織的數(shù)據(jù)安全帶來了潛在風險。因此，在應用AI技術的同時，必須高度重視數(shù)據(jù)安全問題。

一、數(shù)據(jù)安全風險

（一）個人原因造成數(shù)據(jù)泄露

因個人原因造成的數(shù)據(jù)泄露包括無意識的數(shù)據(jù)泄露和有意識的數(shù)據(jù)泄露，這兩種情況都有可能給組織的敏感數(shù)據(jù)帶來安全隱患。

無意識的數(shù)據(jù)泄露：用戶在使用AI語言模型時，可能在不知道自己的操作存在風險的情況下，不經(jīng)意間上傳了敏感信息，如組織的敏感文檔。

有意識的數(shù)據(jù)泄露：少數(shù)用戶在使用AI語言模型時，明知組織不允許將敏感文檔上傳到互聯(lián)網(wǎng)平臺，但出于盡快完成交付的工作壓力，有意的將組織的敏感數(shù)據(jù)上傳到AI語言模型中。

（二）平臺原因造成數(shù)據(jù)泄露

目前AI語言模型種類繁多，雖然人工智能相關的監(jiān)管政策明確要求禁止違規(guī)收集和使用用戶的輸入數(shù)據(jù)，但目前AI語言模型良莠不齊，這其中不乏存在一些模型正在違規(guī)收集和使用用戶上傳的組織敏感數(shù)據(jù)，而用戶對此狀況并不知曉。這些模型在收集用戶上傳的組織敏感數(shù)據(jù)之后，可能因自身存在安全問題、不合規(guī)處理或系統(tǒng)漏洞，而導致這些數(shù)據(jù)的二次泄露。

模型自身安全：部分AI語言模型自身存在安全問題，可能將訓練數(shù)據(jù)中的內(nèi)容作為輸出展示給使用模型的用戶，即大模型的數(shù)據(jù)泄露問題。如果用戶的輸入被違規(guī)收集和使用，極有可能因上述原因造成所收集的數(shù)據(jù)的二次泄露。

不合規(guī)處理：部分AI語言模型可能存在不合規(guī)的處理，比如未經(jīng)許可收集用戶數(shù)據(jù)，并將其用于非法目的，從而損害用戶的隱私和安全。

系統(tǒng)漏洞：部分AI語言模型違規(guī)收集用戶輸入的數(shù)據(jù)后，因存儲數(shù)據(jù)的操作系統(tǒng)存在漏洞而遭受黑客攻擊，也可能導致數(shù)據(jù)二次泄露。

二、應對策略

為了有效應對與人工智能相關的數(shù)據(jù)安全挑戰(zhàn)，建議組織在使用AI語言模型時采取以下措施：

（一）技術措施

1.分類分級

為了妥善管理存儲在工作機中的大量組織敏感數(shù)據(jù)，我們需要建立健全業(yè)務數(shù)據(jù)安全分類分級管理機制。首先，在梳理本機構業(yè)務數(shù)據(jù)資產(chǎn)目錄的基礎上，依據(jù)國家、行業(yè)相關的數(shù)據(jù)安全標準和最佳實踐，制定覆蓋全部業(yè)務數(shù)據(jù)的標準和數(shù)據(jù)安全分類分級清單，詳細列出每種數(shù)據(jù)類型的重要性和敏感性水平，并明確區(qū)分敏感數(shù)據(jù)和非敏感數(shù)據(jù)。根據(jù)不同類別和級別，設定相應的訪問權限和控制措施，明確規(guī)定哪些數(shù)據(jù)不應上傳至AI語言模型或其他外部系統(tǒng)，以防止敏感信息被不當收集或使用。實施數(shù)據(jù)安全分類分級后，定期進行審查和更新，以防止數(shù)據(jù)泄露和越權使用。

為了進一步提高數(shù)據(jù)分類分級的效率和準確性，可采用基于國家、行業(yè)數(shù)據(jù)分類分級標準的敏感數(shù)據(jù)深度識別模型，利用先進的數(shù)據(jù)識別工具和技術，比如深度學習算法和自然語言處理技術，來識別和標記敏感信息，高效且準確地識別和管理敏感數(shù)據(jù)，形成一個完整的敏感數(shù)據(jù)資產(chǎn)目錄清單，確保數(shù)據(jù)分類分級工作的準確性和全面性，并對文件內(nèi)容、組織敏感信息等進行多維度快速檢索。通過以上方法，更好地了解數(shù)據(jù)的分布情況，從而更加有效地管理和保護組織的數(shù)據(jù)資產(chǎn)。

2.風險監(jiān)測

基于數(shù)據(jù)流動全程及數(shù)據(jù)全生命周期持續(xù)感知評估風險，對終端敏感數(shù)據(jù)運行過程進行無改造映射，自動標注敏感數(shù)據(jù)，并跟蹤數(shù)據(jù)狀態(tài)變化過程，持續(xù)監(jiān)控數(shù)據(jù)傳輸?shù)拿舾卸取⒎诸惙旨墶㈩l率、數(shù)據(jù)的數(shù)量和目的地等，跟蹤敏感數(shù)據(jù)在AI語言模型和終端之間的運行流轉(zhuǎn)軌跡，完整追溯敏感數(shù)據(jù)流轉(zhuǎn)過程，并快速識別敏感數(shù)據(jù)流出業(yè)務范圍或越權上傳等風險，通過實時監(jiān)控和異常分析來及時發(fā)現(xiàn)是否存在向AI語言模型上傳組織敏感數(shù)據(jù)的行為，并采取措施有效預防數(shù)據(jù)泄露。這意味著不僅要定期檢查數(shù)據(jù)傳輸?shù)娜罩荆€要利用先進的深度數(shù)據(jù)內(nèi)容識別技術、基于人工智能的數(shù)據(jù)安全風險分析技術來識別異常模式，例如敏感數(shù)據(jù)流向有風險的目的地的情況。一旦檢測到可疑行為，應立即啟動風險處置流程，包括但不限于告警、切斷數(shù)據(jù)傳輸、隔離受影響的系統(tǒng)、調(diào)查事件原因等，從而有效減少數(shù)據(jù)泄露的風險，并確保組織的敏感信息得到妥善保護。

3.安全防護

構建數(shù)據(jù)安全管控體系，加強數(shù)據(jù)全生命周期的安全防護能力。對敏感數(shù)據(jù)進行自適應細粒度的精準防護，針對不同的業(yè)務部門、用戶角色、數(shù)據(jù)分類以及不同的數(shù)據(jù)安全風險等級，執(zhí)行細粒度的訪問控制策略，如禁止未經(jīng)許可的數(shù)據(jù)上傳至AI語言模型，并設置警報機制，以便在未經(jīng)授權的情況下立即觸發(fā)警告。對高敏感級別的數(shù)據(jù)進行加密處理，確保即使數(shù)據(jù)被不合規(guī)的上傳，也不會泄露文件內(nèi)容。同時，應定期審查和更新安全策略，以適應不斷變化的安全威脅，確保安全措施的有效性和時效性，包括但不限于定期評估現(xiàn)有安全措施的效果，引入新的技術和方法來加強數(shù)據(jù)保護，并根據(jù)最新的安全趨勢和法規(guī)要求調(diào)整策略。

（二）組織管理措施

建立健全數(shù)據(jù)安全治理體系，制定常態(tài)化的數(shù)據(jù)安全風險評估機制，并定期進行全面的系統(tǒng)評估。定期組織員工進行數(shù)據(jù)安全和隱私保護的專業(yè)培訓，提高員工對于AI語言模型使用過程中潛在風險的認識，強調(diào)遵守相關法律法規(guī)的重要性。

（三）個人安全意識培養(yǎng)

在使用任何AI語言模型之前，個人應仔細閱讀其隱私政策，了解數(shù)據(jù)如何被收集、存儲和使用，在使用中謹慎分享組織敏感數(shù)據(jù)，并注意選擇合規(guī)且具備安全措施保障的AI語言模型提供商。

（四）AIPC方法

AIPC（AI Personal Computing Device），作為一款集成人工智能算力的個人設備，能夠在本地設備上處理數(shù)據(jù)和運行AI語言模型，這意味著數(shù)據(jù)不必上傳到云端，通過本地化處理技術手段來減小了數(shù)據(jù)的泄露風險面，解決AI語言模型使用計算中的數(shù)據(jù)泄露問題。與此同時，AIPC要獲得較好的表現(xiàn)，需要硬件的高配支持，這會導致價格偏高，產(chǎn)品性能和用戶體驗尚需時間優(yōu)化，可能限制其在市場側的普及。

三、小 結

當前，人工智能技術正迅猛發(fā)展并日益深入地融入我們的日常生活和工作，雖然AI語言模型為我們帶來了諸多便利和正向影響，但也伴隨著數(shù)據(jù)泄露等風險和問題。因此，我們在使用AI語言模型時應該時刻保持警惕，并采取適當?shù)陌踩胧﹣肀Ｗo組織的敏感數(shù)據(jù)，如本文提到的數(shù)據(jù)分類分級、風險監(jiān)測、安全防護等技術手段，加強組織的數(shù)據(jù)安全管理，提高個人的安全意識，通過一系列措施，確保我們在應用AI語言模型的同時，有效保障組織敏感數(shù)據(jù)的安全。

（本文作者：北京數(shù)安行科技有限公司 郭靈）

聲明：本文來自CCIA數(shù)據(jù)安全工作委員會，稿件和圖片版權均歸原作者所有。所涉觀點不代表東方安全立場，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權，請聯(lián)系rhliu@skdlabs.com，我們將及時按原作者或權利人的意愿予以更正。