压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

云安全聯(lián)盟大中華區(qū)發(fā)布報(bào)告《ChatGPT的安全影響》（以下簡(jiǎn)稱報(bào)告），報(bào)告旨在概述ChatGPT在網(wǎng)絡(luò)安全行業(yè)中的影響，而不深入探討人工智能的細(xì)節(jié)。我們將探討對(duì)理解ChatGPT能力至關(guān)重要的關(guān)鍵概念和領(lǐng)域，以及對(duì)企業(yè)的潛在影響。在我們研究這些影響的同時(shí)，考慮區(qū)分ChatGPT的合法和惡意使用的挑戰(zhàn)至關(guān)重要，例如區(qū)分營銷電子郵件、公司通信和網(wǎng)絡(luò)釣魚郵件，或者識(shí)別待修復(fù)漏洞和黑客入口點(diǎn)。

文末附報(bào)告獲取方式

ChatGPT作為基于生成式預(yù)訓(xùn)練模型（GPT）的聊天機(jī)器人，其核心技術(shù)是自然語言處理（NLP）。隨著NLP技術(shù)的不斷發(fā)展，ChatGPT的智能程度也在飛速提高。最初的ChatGPT只能回答一些簡(jiǎn)單的問題，但現(xiàn)在它已經(jīng)可以根據(jù)用戶的偏好提供更加個(gè)性化的建議和服務(wù)。

ChatGPT通過自然語言處理技術(shù)理解用戶的輸入，并根據(jù)用戶的需求提供相應(yīng)的服務(wù)和建議。ChatGPT在生產(chǎn)（例如智能客服、電子商務(wù)、醫(yī)療保健等）和生活中的廣泛應(yīng)用，將極大地改善體驗(yàn)，提升效率。

作為在線服務(wù)類的AI應(yīng)用，ChatGPT在提高用戶體驗(yàn)方面有很大的優(yōu)勢(shì)，但是它也會(huì)對(duì)網(wǎng)絡(luò)安全產(chǎn)生深遠(yuǎn)的影響。特別是2023年1月，一篇新聞報(bào)道指出，使用ChatGPT可以自動(dòng)化的構(gòu)建可以繞過安全檢測(cè)的惡意程序，引發(fā)了關(guān)于網(wǎng)絡(luò)安全的廣泛擔(dān)憂。

一般而言，ChatGPT作為AI的一種用例或者說場(chǎng)景，其和網(wǎng)絡(luò)安全領(lǐng)域有如下四個(gè)維度的交互：

第一個(gè)維度“AI用于攻擊”

“AI用于攻擊”，分析了攻擊者（惡意行為者）可以如何利用ChatGPT增強(qiáng)其“武器庫”。特別是，針對(duì)網(wǎng)絡(luò)攻擊鏈的各個(gè)環(huán)節(jié)，特別是“偵查”和“漏洞利用”兩個(gè)環(huán)節(jié)，ChatGPT都可以起到非常大的作用。

在偵查階段的目標(biāo)識(shí)別上，AI模型基于其掌握的海量信息，可以讓用戶（甚至是惡意行為者）迅速收集目標(biāo)的各項(xiàng)相關(guān)信息。例如，人工收集某企業(yè)的人員名單和組織架構(gòu)可能非常耗時(shí)耗力，而ChatGPT可以以較小的代價(jià)做到這一點(diǎn)。白皮書中的“3.3 偵查”章節(jié)給出了“創(chuàng)建一個(gè)堪薩斯州的銀行清單及其高管名錄”的案例。

在偵查階段的“尋找漏洞”環(huán)節(jié)，AI模型也可以增強(qiáng)攻擊者的知識(shí)庫（比如nmap掃描的端口類型、常見服務(wù)、其管理頁面等），使攻擊更有效。

第二個(gè)維度“AI用于安全（防御）”

“AI用于安全（防御）”，是指防御者也可以將AI作為防御手段，從廣度和深度兩個(gè)維度，提升防御的質(zhì)量和效率。

ChatGPT可以通過自然語言處理技術(shù)識(shí)別惡意信息，并及時(shí)向用戶發(fā)出警報(bào)，從而幫助用戶避免受到網(wǎng)絡(luò)攻擊。此外，ChatGPT還可以通過機(jī)器學(xué)習(xí)技術(shù)不斷學(xué)習(xí)和優(yōu)化自身的安全防御能力，提高其對(duì)網(wǎng)絡(luò)安全的保護(hù)能力。

ChatGPT可以在網(wǎng)絡(luò)防御中常見的安全漏洞識(shí)別、安全配置腳本自動(dòng)化處理、安全工具集成等場(chǎng)景發(fā)揮作用。白皮書中提供了ChatGPT在上述多種場(chǎng)景中的用例，例如下圖中的自動(dòng)生成腳本：

此外，ChatGPT還可以用于網(wǎng)絡(luò)安全培訓(xùn)和教育。ChatGPT可以通過自然語言處理技術(shù)向用戶提供網(wǎng)絡(luò)安全知識(shí)和技能，幫助用戶提高網(wǎng)絡(luò)安全意識(shí)和能力，從而減少網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

第三個(gè)維度“AI的防御”

“AI的防御”，是指AI模型本身的安全。主要是指提供方需要從正向設(shè)計(jì)AI模型的安全性。ChatGPT的開發(fā)者OpenAI并未公開發(fā)布論文或者白皮書，詳述ChatGPT的防御機(jī)制，特別是模型安全、算法安全等維度。但是，作為互聯(lián)網(wǎng)服務(wù)，其互聯(lián)網(wǎng)基礎(chǔ)設(shè)施的安全問題，例如連接和會(huì)話安全、API安全、用戶的身份認(rèn)證和傳輸加密等，均不容忽視。

第四個(gè)維度“AI被攻擊”

“AI被攻擊”，是指AI作為被攻擊的目標(biāo)對(duì)象。這個(gè)維度和“AI的防御”類似，只是從攻擊和防御的不同視角。由于ChatGPT可以通過自然語言處理技術(shù)理解用戶的輸入，黑客可以通過發(fā)送惡意提示信息來攻擊ChatGPT，從而竊取用戶的敏感信息，這種攻擊方式一般被稱為“提示注入攻擊”。因此，ChatGPT的開發(fā)者需要采取一系列的安全措施來保護(hù)ChatGPT的安全。

對(duì)于企業(yè)等各類組織而言，在ChatGPT的引入和使用的過程中，傳統(tǒng)的信息安全的風(fēng)險(xiǎn)也很重要。涉及企業(yè)商業(yè)秘密、個(gè)人識(shí)別信息的數(shù)據(jù)，不應(yīng)該輸入到ChatGPT；需要實(shí)施身份認(rèn)證、訪問控制和審計(jì)等多種措施，防止數(shù)據(jù)的非授權(quán)訪問等。采取上述策略，“……可確保企業(yè)安全、負(fù)責(zé)任地使用ChatGPT等AI驅(qū)動(dòng)工具，也能最大限度地發(fā)揮這些技術(shù)的潛在價(jià)值。”

最后，截至目前為止，在通用人工智能（AGI）時(shí)代之前，AI提供的各項(xiàng)服務(wù)，諸如ChatGPT等，仍然是一個(gè)有用的“助手”或者“工具”，掌握在誰的手中很重要。在網(wǎng)絡(luò)安全領(lǐng)域，惡意行為者掌握了工具，可以大大的提升偵查、漏洞利用的效率；防御者也同樣可以利用ChatGPT的技術(shù)優(yōu)勢(shì)，提高網(wǎng)絡(luò)安全防御能力和網(wǎng)絡(luò)安全教育水平。

ChatGPT并非是洪水猛獸，也無需談虎色變，讓我們每個(gè)網(wǎng)絡(luò)安全的從業(yè)者，深入的理解它，掌握它，在業(yè)務(wù)中有效運(yùn)用它，在攻防對(duì)抗中不斷增強(qiáng)個(gè)體和組織的實(shí)力，構(gòu)筑網(wǎng)絡(luò)空間的安全和數(shù)據(jù)的有效保護(hù)，充分利用的能力。

來源：國際云安全聯(lián)盟CSA