ChatGPT的“完美風暴”：管理風險，關注變革
責編：gltian ｜2023-08-02 11:09:57置身于“完美風暴”之眼的ChatGPT
ChatGPT前所未有的采用率凸顯了其在重塑當今以數字為中心的世界中的溝通和參與實踐方面的變革潛力。最近在波士頓舉行的ISACA數字信任世界會議上，我發表了題為“掌握ChatGPT”的演講，其中強調了過去半年中幾個關鍵事件的融合，最終形成了推動ChatGPT崛起的”完美風暴”。
這場風暴的核心是ChatGPT能力的快速發展，標志著我們所說的“人工智能時代”或“第四次工業革命”的到來。我介紹了ChatGPT的轉型能力，特別是它重塑商業運營的潛力。根據我的個人經驗，ChatGPT已經證明了在起草初始文檔版本和創建LinkedIn帖子等任務，甚至建議合適的表情符號中的價值！然而，伴隨這場風暴而來的是我們對相關風險的有限理解，再加上缺乏針對此類先進人工智能模型的監管框架，以及組織對人工智能驅動的未來的準備程度各不相同。
了解“完美風暴”：ChatGPT的影響
ChatGPT或任何人工智能技術的集成應被視為一項全組織范圍的工作，要求跨學科合作，包括技術專長、監管合規、風險管理和業務理解。組織通過確保這種平衡和全面的方法，可以充分利用ChatGPT等人工智能技術的優勢，同時減輕潛在的風險和陷阱。
研討會結束后，許多與會者聯系了我，表達了對ChatGPT影響的好奇和擔憂，其中有以下三個關鍵主題：
1. 將ChatGPT用于治理、風險和合規（GRC）角色：參與者有興趣了解這些領域的專業人員如何利用ChatGPT帶來收益。例如，ChatGPT是否有助于評估風險場景？
2. 引導轉型變革成為人工智能驅動的組織：與會者熱衷于探索將組織轉型為人工智能驅動的組織的戰略。他們希望深入了解如何有效管理這一轉型，同時解決關鍵風險。
3. 緩解勞動力流失：對這種顛覆性技術的流失效應的擔憂也很突出。這引發了一些討論，關于確定最有可能受到影響的角色，以及如何提供提高技能的機會，并使員工的技能與人工智能驅動的工作場所的新需求保持一致。
為了解決這些問題，我根據自身的專業知識，以及在“掌握ChatGPT”演講中強調的關鍵概念，提供以下實用指導。
1. 將ChatGPT用于治理、風險和合規（GRC）角色？
對于GRC，ChatGPT提供了幾個潛在的應用程序，在我與與會者的討論中提出了一些實際的示例。以下是幾個值得注意的例子：
- 風險和控制措施的關系：ChatGPT可以提供與特定控制措施相關的風險的見解，以及用于驗證和確認目的的相關文檔。
- 政策和治理制定：ChatGPT可以幫助GRC團隊制定有針對性的信息并建立特定行業的政策，從而加強治理過程。
- 補救指導：ChatGPT能夠提供個性化建議，概述緩解措施和戰略，從而可解決已發現的差距。
- 將環境變化引入到流程中：在業務經歷流程修改的情況下，ChatGPT可以提供寶貴的建議，創建新的控制措施或調整現有的控制措施，從而滿足監管要求。
這些現實世界的應用程序顯示了ChatGPT在增強GRC功能方面的變革潛力，展示了ChatGPT如何加快決策、政策制定、補救行動和合規驗證，從而提高效率和效力。
2. 引導轉型變革成為人工智能驅動的組織？
不可否認的是ChatGPT提供了一個變革性的機會，但承認使用ChatGPT帶來的重大風險至關重要。盡管ChatGPT有很多好處，但我們知道它有很多風險：
更廣泛地說，人工智能應用的不斷增長加劇了人們對以道德、公平和負責任的方式使用有助于或取代人類決策的技術的擔憂。部署人工智能系統需要仔細監督，不僅要防止對組織的品牌聲譽造成意外后果，更重要的是，還要防止對員工、個人和社會造成意外后果。
考慮到這些潛在的不利影響，組織應該做些什么適應這個新時代？人工智能準備情況評估應該是第一步。評估應評估組織的當前狀態，確定ChatGPT可以帶來收益的潛在用例，優先制定業務路線圖以開發有針對性的用例，并解決可能阻礙有效部署的人員、流程和技術方面的潛在差距。
人工智能就緒度評估示例：舉一個例子說明這種方法是如何工作的。例如，組織可能希望增強其客戶服務體驗。該組織可以從關注ChatGPT能力的人工智能準備情況評估開始。該評估將從檢查當前的客戶服務流程、績效指標和總體客戶滿意度水平開始。接下來，組織將確定ChatGPT可以增強這些領域的潛在用例，例如全天候客戶支持或更快的查詢解決方案。一旦確定了這些用例，組織就可以建立業務路線圖。業務路線圖可能涉及在客戶服務中分階段推出ChatGPT，首先是驗證有效性的試點計劃，然后是基于成功指標的增量擴展。
AI治理框架：AI治理框架是一套原則、政策和流程，旨在確保人工智能系統的道德、透明和值得信賴的使用。有幾個現有的框架可以用來為人工智能活動提供治理，例如新加坡的人工智能治理模型框架、澳大利亞的人工智能道德框架、歐盟委員會的人工智能法律框架和AIGA框架。
作為一個開創性的框架，新加坡的人工智能治理模型框架旨在促進兩個基本原則：可解釋、透明和公平的人工智能輔助決策的必要性，以及以人為中心的人工智能系統的重要性。該框架通過提供最佳實踐而脫穎而出，為確定人類參與人工智能增強決策和進行算法審計提供了指導。另一個特點是其技術不可知論方法，允許其在各個行業中應用。
可接受的使用政策：盡管ChatGPT存在風險，但其提高生產力的潛力不容忽視。在某些情況下，收益可能大于風險，但并非總是如此。員工是您的第一道防線，如果您允許員工訪問，他們是否意識到潛在的風險？我認為，組織制定一項管理員工如何使用ChatGPT的政策至關重要。
這項政策可能包括：
- 對特定用例的限制，以及對已批準應用程序的建議和應從系統中排除的數據的指南。這可能需要員工驗證模型的輸出，考慮潛在的偏見，并評估相關風險，如機密性、隱私和知識產權。
鑒于該領域的快速發展，我強調持續的風險評估以及在組織內部就用例、機會和風險保持開放溝通的重要性。我相信，這種積極主動的方法使組織能夠負責任、有效地利用ChatGPT的好處。
3. 緩解勞動力流失？
在20世紀90年代末和21世紀初，我見證了互聯網作為一個商業平臺的興起，導致了電子商務的快速增長，被稱為Dot-Com時代。這個時代創造了新的工作崗位，比如網絡開發人員和SEO專家，而在這一時期之前，這些崗位幾乎不存在。例如，網絡開發人員在建設網站方面發揮了關鍵作用，這項任務在這個時代之前幾乎不存在。同樣，SEO專家的出現是為了優化這些網站，從而在搜索引擎排名中獲得更高的可見性，這是一個新的專業領域。
現在，我們正處于人工智能時代。這一時代與Dot-Com時代一樣，需要新的角色和技能。ChatGPT正在導致現有角色的轉變，并產生新的角色。例如，隨著人工智能重新定義客戶服務，預計人工智能培訓師將專門改進聊天機器人，實現更人性化的交互。此外，各組織應確定這些新出現的角色，并投資于提高技能的舉措，使其員工為轉型做好準備。具體而言，人工智能引入了新的職業，如人工智能倫理學家，他們確保人工智能應用符合道德標準和社會價值觀；還有提示工程師，他們的任務是優化人工智能模型提示，獲得更為高效和有效的響應。
為向人工智能集成勞動力的轉型做好準備，將使企業能夠充分利用技術的潛力，同時最大限度地減少相關的干擾。
在ChatGPT的“完美風暴”中生存和成長
ChatGPT帶來的“完美風暴”雖然充滿了變革潛力，但也帶來了必須努力應對的挑戰。從重新定義GRC的角色，到開創人工智能驅動的組織的新時代，再到解決勞動力流失的風險，這場風暴為我們提供了增長的機會，也為我們提供了試驗。
我們通過人工智能準備情況評估、人工智能治理框架的建立和勞動力技能提升舉措正面應對這些挑戰，可以利用這場風暴的能量。這種方法確保了我們不僅能經受住這場風暴，而且能變得更強大，為人工智能驅動的未來做好更好的準備。因此，讓我們揚帆起航，著眼于地平線，在這激動人心的水域中航行，預見挑戰，并充分利用即將到來的機遇。這段旅程可能很復雜，但最終的目的地——一個人工智能作為增強和進步工具的世界——非常值得努力。
來源：安全牛