压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

近年來(lái)，隨著人工智能領(lǐng)域的迅猛發(fā)展，各種AI語(yǔ)言模型如雨后春筍般涌現(xiàn)。這些模型通過(guò)學(xué)習(xí)海量數(shù)據(jù)，能夠生成高質(zhì)量的內(nèi)容。用戶(hù)只需要輸入具體需求或提供參考性文檔資料，即可一鍵生成所需的文章，這在一定程度上極大地提升了工作效率。然而，用戶(hù)在處理組織敏感數(shù)據(jù)時(shí)，如果不正確使用或忽視數(shù)據(jù)安全的重要性，就有可能給組織的敏感數(shù)據(jù)帶來(lái)嚴(yán)重的安全隱患。

從合規(guī)角度來(lái)看，AI語(yǔ)言模型應(yīng)該嚴(yán)格遵守行業(yè)規(guī)范，按規(guī)定履行算法備案手續(xù)和合規(guī)義務(wù)，遵循合法性、公平性、透明度、目的限制、數(shù)據(jù)最小化、準(zhǔn)確性、存儲(chǔ)限制、完整性和保密性等原則，從而確保為用戶(hù)提供高效服務(wù)的同時(shí)保障用戶(hù)數(shù)據(jù)安全，避免違規(guī)收集或使用用戶(hù)上傳的數(shù)據(jù)。

盡管如此，當(dāng)前AI語(yǔ)言模型種類(lèi)繁多，其中難免會(huì)有某些模型存在違規(guī)收集用戶(hù)輸入數(shù)據(jù)的問(wèn)題，這無(wú)疑給組織的數(shù)據(jù)安全帶來(lái)了潛在風(fēng)險(xiǎn)。因此，在應(yīng)用AI技術(shù)的同時(shí)，必須高度重視數(shù)據(jù)安全問(wèn)題。

一、數(shù)據(jù)安全風(fēng)險(xiǎn)

（一）個(gè)人原因造成數(shù)據(jù)泄露

因個(gè)人原因造成的數(shù)據(jù)泄露包括無(wú)意識(shí)的數(shù)據(jù)泄露和有意識(shí)的數(shù)據(jù)泄露，這兩種情況都有可能給組織的敏感數(shù)據(jù)帶來(lái)安全隱患。

無(wú)意識(shí)的數(shù)據(jù)泄露：用戶(hù)在使用AI語(yǔ)言模型時(shí)，可能在不知道自己的操作存在風(fēng)險(xiǎn)的情況下，不經(jīng)意間上傳了敏感信息，如組織的敏感文檔。

有意識(shí)的數(shù)據(jù)泄露：少數(shù)用戶(hù)在使用AI語(yǔ)言模型時(shí)，明知組織不允許將敏感文檔上傳到互聯(lián)網(wǎng)平臺(tái)，但出于盡快完成交付的工作壓力，有意的將組織的敏感數(shù)據(jù)上傳到AI語(yǔ)言模型中。

（二）平臺(tái)原因造成數(shù)據(jù)泄露

目前AI語(yǔ)言模型種類(lèi)繁多，雖然人工智能相關(guān)的監(jiān)管政策明確要求禁止違規(guī)收集和使用用戶(hù)的輸入數(shù)據(jù)，但目前AI語(yǔ)言模型良莠不齊，這其中不乏存在一些模型正在違規(guī)收集和使用用戶(hù)上傳的組織敏感數(shù)據(jù)，而用戶(hù)對(duì)此狀況并不知曉。這些模型在收集用戶(hù)上傳的組織敏感數(shù)據(jù)之后，可能因自身存在安全問(wèn)題、不合規(guī)處理或系統(tǒng)漏洞，而導(dǎo)致這些數(shù)據(jù)的二次泄露。

模型自身安全：部分AI語(yǔ)言模型自身存在安全問(wèn)題，可能將訓(xùn)練數(shù)據(jù)中的內(nèi)容作為輸出展示給使用模型的用戶(hù)，即大模型的數(shù)據(jù)泄露問(wèn)題。如果用戶(hù)的輸入被違規(guī)收集和使用，極有可能因上述原因造成所收集的數(shù)據(jù)的二次泄露。

不合規(guī)處理：部分AI語(yǔ)言模型可能存在不合規(guī)的處理，比如未經(jīng)許可收集用戶(hù)數(shù)據(jù)，并將其用于非法目的，從而損害用戶(hù)的隱私和安全。

系統(tǒng)漏洞：部分AI語(yǔ)言模型違規(guī)收集用戶(hù)輸入的數(shù)據(jù)后，因存儲(chǔ)數(shù)據(jù)的操作系統(tǒng)存在漏洞而遭受黑客攻擊，也可能導(dǎo)致數(shù)據(jù)二次泄露。

二、應(yīng)對(duì)策略

為了有效應(yīng)對(duì)與人工智能相關(guān)的數(shù)據(jù)安全挑戰(zhàn)，建議組織在使用AI語(yǔ)言模型時(shí)采取以下措施：

（一）技術(shù)措施

1.分類(lèi)分級(jí)

為了妥善管理存儲(chǔ)在工作機(jī)中的大量組織敏感數(shù)據(jù)，我們需要建立健全業(yè)務(wù)數(shù)據(jù)安全分類(lèi)分級(jí)管理機(jī)制。首先，在梳理本機(jī)構(gòu)業(yè)務(wù)數(shù)據(jù)資產(chǎn)目錄的基礎(chǔ)上，依據(jù)國(guó)家、行業(yè)相關(guān)的數(shù)據(jù)安全標(biāo)準(zhǔn)和最佳實(shí)踐，制定覆蓋全部業(yè)務(wù)數(shù)據(jù)的標(biāo)準(zhǔn)和數(shù)據(jù)安全分類(lèi)分級(jí)清單，詳細(xì)列出每種數(shù)據(jù)類(lèi)型的重要性和敏感性水平，并明確區(qū)分敏感數(shù)據(jù)和非敏感數(shù)據(jù)。根據(jù)不同類(lèi)別和級(jí)別，設(shè)定相應(yīng)的訪(fǎng)問(wèn)權(quán)限和控制措施，明確規(guī)定哪些數(shù)據(jù)不應(yīng)上傳至AI語(yǔ)言模型或其他外部系統(tǒng)，以防止敏感信息被不當(dāng)收集或使用。實(shí)施數(shù)據(jù)安全分類(lèi)分級(jí)后，定期進(jìn)行審查和更新，以防止數(shù)據(jù)泄露和越權(quán)使用。

為了進(jìn)一步提高數(shù)據(jù)分類(lèi)分級(jí)的效率和準(zhǔn)確性，可采用基于國(guó)家、行業(yè)數(shù)據(jù)分類(lèi)分級(jí)標(biāo)準(zhǔn)的敏感數(shù)據(jù)深度識(shí)別模型，利用先進(jìn)的數(shù)據(jù)識(shí)別工具和技術(shù)，比如深度學(xué)習(xí)算法和自然語(yǔ)言處理技術(shù)，來(lái)識(shí)別和標(biāo)記敏感信息，高效且準(zhǔn)確地識(shí)別和管理敏感數(shù)據(jù)，形成一個(gè)完整的敏感數(shù)據(jù)資產(chǎn)目錄清單，確保數(shù)據(jù)分類(lèi)分級(jí)工作的準(zhǔn)確性和全面性，并對(duì)文件內(nèi)容、組織敏感信息等進(jìn)行多維度快速檢索。通過(guò)以上方法，更好地了解數(shù)據(jù)的分布情況，從而更加有效地管理和保護(hù)組織的數(shù)據(jù)資產(chǎn)。

2.風(fēng)險(xiǎn)監(jiān)測(cè)

基于數(shù)據(jù)流動(dòng)全程及數(shù)據(jù)全生命周期持續(xù)感知評(píng)估風(fēng)險(xiǎn)，對(duì)終端敏感數(shù)據(jù)運(yùn)行過(guò)程進(jìn)行無(wú)改造映射，自動(dòng)標(biāo)注敏感數(shù)據(jù)，并跟蹤數(shù)據(jù)狀態(tài)變化過(guò)程，持續(xù)監(jiān)控?cái)?shù)據(jù)傳輸?shù)拿舾卸取⒎诸?lèi)分級(jí)、頻率、數(shù)據(jù)的數(shù)量和目的地等，跟蹤敏感數(shù)據(jù)在AI語(yǔ)言模型和終端之間的運(yùn)行流轉(zhuǎn)軌跡，完整追溯敏感數(shù)據(jù)流轉(zhuǎn)過(guò)程，并快速識(shí)別敏感數(shù)據(jù)流出業(yè)務(wù)范圍或越權(quán)上傳等風(fēng)險(xiǎn)，通過(guò)實(shí)時(shí)監(jiān)控和異常分析來(lái)及時(shí)發(fā)現(xiàn)是否存在向AI語(yǔ)言模型上傳組織敏感數(shù)據(jù)的行為，并采取措施有效預(yù)防數(shù)據(jù)泄露。這意味著不僅要定期檢查數(shù)據(jù)傳輸?shù)娜罩荆€要利用先進(jìn)的深度數(shù)據(jù)內(nèi)容識(shí)別技術(shù)、基于人工智能的數(shù)據(jù)安全風(fēng)險(xiǎn)分析技術(shù)來(lái)識(shí)別異常模式，例如敏感數(shù)據(jù)流向有風(fēng)險(xiǎn)的目的地的情況。一旦檢測(cè)到可疑行為，應(yīng)立即啟動(dòng)風(fēng)險(xiǎn)處置流程，包括但不限于告警、切斷數(shù)據(jù)傳輸、隔離受影響的系統(tǒng)、調(diào)查事件原因等，從而有效減少數(shù)據(jù)泄露的風(fēng)險(xiǎn)，并確保組織的敏感信息得到妥善保護(hù)。

3.安全防護(hù)

構(gòu)建數(shù)據(jù)安全管控體系，加強(qiáng)數(shù)據(jù)全生命周期的安全防護(hù)能力。對(duì)敏感數(shù)據(jù)進(jìn)行自適應(yīng)細(xì)粒度的精準(zhǔn)防護(hù)，針對(duì)不同的業(yè)務(wù)部門(mén)、用戶(hù)角色、數(shù)據(jù)分類(lèi)以及不同的數(shù)據(jù)安全風(fēng)險(xiǎn)等級(jí)，執(zhí)行細(xì)粒度的訪(fǎng)問(wèn)控制策略，如禁止未經(jīng)許可的數(shù)據(jù)上傳至AI語(yǔ)言模型，并設(shè)置警報(bào)機(jī)制，以便在未經(jīng)授權(quán)的情況下立即觸發(fā)警告。對(duì)高敏感級(jí)別的數(shù)據(jù)進(jìn)行加密處理，確保即使數(shù)據(jù)被不合規(guī)的上傳，也不會(huì)泄露文件內(nèi)容。同時(shí)，應(yīng)定期審查和更新安全策略，以適應(yīng)不斷變化的安全威脅，確保安全措施的有效性和時(shí)效性，包括但不限于定期評(píng)估現(xiàn)有安全措施的效果，引入新的技術(shù)和方法來(lái)加強(qiáng)數(shù)據(jù)保護(hù)，并根據(jù)最新的安全趨勢(shì)和法規(guī)要求調(diào)整策略。

（二）組織管理措施

建立健全數(shù)據(jù)安全治理體系，制定常態(tài)化的數(shù)據(jù)安全風(fēng)險(xiǎn)評(píng)估機(jī)制，并定期進(jìn)行全面的系統(tǒng)評(píng)估。定期組織員工進(jìn)行數(shù)據(jù)安全和隱私保護(hù)的專(zhuān)業(yè)培訓(xùn)，提高員工對(duì)于AI語(yǔ)言模型使用過(guò)程中潛在風(fēng)險(xiǎn)的認(rèn)識(shí)，強(qiáng)調(diào)遵守相關(guān)法律法規(guī)的重要性。

（三）個(gè)人安全意識(shí)培養(yǎng)

在使用任何AI語(yǔ)言模型之前，個(gè)人應(yīng)仔細(xì)閱讀其隱私政策，了解數(shù)據(jù)如何被收集、存儲(chǔ)和使用，在使用中謹(jǐn)慎分享組織敏感數(shù)據(jù)，并注意選擇合規(guī)且具備安全措施保障的AI語(yǔ)言模型提供商。

（四）AIPC方法

AIPC（AI Personal Computing Device），作為一款集成人工智能算力的個(gè)人設(shè)備，能夠在本地設(shè)備上處理數(shù)據(jù)和運(yùn)行AI語(yǔ)言模型，這意味著數(shù)據(jù)不必上傳到云端，通過(guò)本地化處理技術(shù)手段來(lái)減小了數(shù)據(jù)的泄露風(fēng)險(xiǎn)面，解決AI語(yǔ)言模型使用計(jì)算中的數(shù)據(jù)泄露問(wèn)題。與此同時(shí)，AIPC要獲得較好的表現(xiàn)，需要硬件的高配支持，這會(huì)導(dǎo)致價(jià)格偏高，產(chǎn)品性能和用戶(hù)體驗(yàn)尚需時(shí)間優(yōu)化，可能限制其在市場(chǎng)側(cè)的普及。

三、小 結(jié)

當(dāng)前，人工智能技術(shù)正迅猛發(fā)展并日益深入地融入我們的日常生活和工作，雖然AI語(yǔ)言模型為我們帶來(lái)了諸多便利和正向影響，但也伴隨著數(shù)據(jù)泄露等風(fēng)險(xiǎn)和問(wèn)題。因此，我們?cè)谑褂肁I語(yǔ)言模型時(shí)應(yīng)該時(shí)刻保持警惕，并采取適當(dāng)?shù)陌踩胧﹣?lái)保護(hù)組織的敏感數(shù)據(jù)，如本文提到的數(shù)據(jù)分類(lèi)分級(jí)、風(fēng)險(xiǎn)監(jiān)測(cè)、安全防護(hù)等技術(shù)手段，加強(qiáng)組織的數(shù)據(jù)安全管理，提高個(gè)人的安全意識(shí)，通過(guò)一系列措施，確保我們?cè)趹?yīng)用AI語(yǔ)言模型的同時(shí)，有效保障組織敏感數(shù)據(jù)的安全。

（本文作者：北京數(shù)安行科技有限公司 郭靈）

聲明：本文來(lái)自CCIA數(shù)據(jù)安全工作委員會(huì)，稿件和圖片版權(quán)均歸原作者所有。所涉觀點(diǎn)不代表東方安全立場(chǎng)，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請(qǐng)聯(lián)系rhliu@skdlabs.com，我們將及時(shí)按原作者或權(quán)利人的意愿予以更正。