當ChatGPT表示它將“徹底改變”數字政府
責編：gltian ｜2023-08-01 11:04:40隨著人工智能 (AI) 的不斷發展，州和地方政府開始探索 ChatGPT 等人工智能工具如何改變他們為居民提供的數字服務。許多政府已經使用人工智能驅動的聊天機器人來實現服務自動化，例如醫療補助登記、駕照續簽、小企業資源等。然而，包括 ChatGPT 在內的下一代人工智能有可能徹底改變政府與公民互動的方式。
這種樂觀的評估預測了一個光明的未來，即下一代聊天機器人將幫助人們清晰、輕松地完成目前與政府進行的各種耗時的互動，但這種評估并非來自任何目光敏銳的顧問或充滿炒作的公關宣傳。相反，它直接來自 ChatGPT，這是一款文本生成人工智能工具，自去年11月發布以來就吸引了互聯網的關注。
圍繞 ChatGPT 最熱鬧的討論都圍繞著它的一些更邪惡的潛力——學生作業作弊、新手黑客編寫惡意代碼、廉價出版商削弱記者的利益。但根據經常使用人工智能和數字服務的工作人員的說法，至于“徹底改變政府與公民互動的方式”，這場革命可能不會像每個人喜歡的聊天機器人所預測的那樣立竿見影。
雖然 ChatGPT 和類似產品會搜索大量信息來生成對話響應，但在政府環境中運行的此類聊天機器人必須經過配置才能識別某些程序和服務的工作方式、如何與來自不同背景的用戶進行交互以及確保任何應對措施公平對待人們。
本文首先提出一個提示，要求 ChatGPT 寫一篇詳細的文章，介紹它及其生成的自然語言處理工具將如何改變地方政府提供的數字服務，特別是那些目前可以通過聊天機器人進行服務的數字服務。雖然機器人自己的預測可以準確地描述為“極度自信”，但人類技術專家的預測卻充滿了好奇和懷疑。
ChatGPT是對話式而非臨床式
洛杉磯首席信息官泰德·羅斯 (Ted Ross) 是一位渴望使用文本生成工具的技術官員，他表示，他對城市服務有朝一日配備能夠回答居民問題的虛擬助理的潛力感到“非常興奮”。具有人性化答案的查詢比鏈接列表更有幫助。
他說：“人工智能可以極大地改變我們的搜索方式以及我們獲得的結果類型，因此您不僅可以獲得無需搜索的鏈接即可點擊。” “您實際上會收到一份為您總結的書面回復。這非常重要。”
多年來，聊天機器人已在州和地方政府中廣泛使用，最常見的是作為一種搜索引擎，幫助居民找到從DMV服務到失業索賠再到租金援助等各種正確的信息指引。許多州還在COVID-19大流行初期將聊天機器人投入應用，利用它們來加快緊急福利的申請或消除錯誤信息。
但 ChatGPT 和其他所謂的大型語言模型的巨大吸引力在于，它們能夠生成模仿人類對話的詳細回復，而不是指向另一個網頁給出臨床指示。通過掃描數十億個數據點并進行編程以對應某些行為或主題領域，這些機器人可以有效地查看一串文本并預測接下來應該出現什么單詞。
如果一遍又一遍地運行提示信息將會產生數十種不同的回應，且準確度各不相同。
在列舉可以通過其功能進行改進的聊天機器人和虛擬助理的示例時，ChatGPT 發現了一些實際存在的機器人，例如德克薩斯州勞動力委員會的機器人，可以幫助企業主和失業人員瀏覽該機構的網站。例如佛羅里達州勞工部提供的機器人，幫助有兒童的家庭找到營養援助和醫療補助等服務的申請。
它還自我“杜撰”了一些城市服務機器人，ChatGPT 寫道：
與此同時，在洛杉磯，該市交通局正在使用人工智能聊天機器人來提供實時交通更新并幫助通勤者規劃路線。這有助于減少交通擁堵，提高城市交通系統的整體效率。
哦吼，洛杉磯市的網站的確有一個聊天機器人，但不要問它需要多長時間才能到達道奇體育場。目前，它僅限于搜索該市311電話號碼簿中包含的信息。羅斯說，但這并不意味著它最終能以更加廣泛和靈活的方式應對洛杉磯人。
他說：“我們收到了人們提出的所有關于支付停車罰單、填補坑洼或圖書館資源的問題。雖然政府擁有了大量信息，但從應用實踐來看，政府在使信息易于理解方面做的非常糟糕。”
不要讓ChatGPT去做價值判斷
但與所有人工智能工具一樣，ChatGPT 的好壞取決于它可以訪問的數據，馬薩諸塞大學波士頓分校公共政策副教授邁克爾·安 (Michael Ahn) 表示，他研究了語言模型的潛力，雖然 ChatGPT 推出后能夠搜索2021 年底之前互聯網上的所有信息，但它已更新了更多的最新數據。他說，雖然要在政府環境中真正發揮作用，但基于該模型構建的聊天機器人必須能夠處理實時信息以及用戶想要完成的任務。
“目前，政務聊天機器人類似于傳統的搜索引擎。”他說，“它可能會為你指明正確的方向。在政府服務、政府法規以及公民來自哪里以及他們需要接受過何種培訓，然后您就可以看到其中的差異。不同之處在于使用傳統搜索引擎與使用 ChatGPT 所獲得的結果，后者更了解您的需求、情況和目的。”
但這也意味著，想要將 ChatGPT 或其他大型語言模型（例如Google的Bard 或Meta的LLaMa）集成到其數字服務中的政府將必須創建新的規則，以確保該技術輔助的決策是公平的，并且任何敏感信息都不會受到影響，用戶共享的數據沒有被錯誤處理。
當被問及對數字政府發展的隱私和公平的影響時，ChatGPT 僅給出了表面的回應：
在保護公民數據隱私和確保公平方面，像 ChatGPT 這樣的人工智能模型可以通過為公民提供安全和個性化的數字服務來提供幫助。ChatGPT 可以根據用戶的位置、語言和其他人口統計數據定制響應，確保所有公民都能平等地獲得政府服務。
邁克爾·安說，事情沒那么簡單。雖然先進的數據和語言處理模型最終可能能夠對交通狀況進行實時分析，或者為申請商業許可證的人提供更健談的界面，但還有許多政府服務是需要更人性化的考量的，例如與公共服務相關的服務。福利，總是需要人情味的。
“政府決策本質上是有價值的，比如面向無家可歸的人的公益服務領域。任何涉及人的因素且需要一些價值判斷的領域，ChatGPT 可能都不是最好的。”邁克爾·安認為。
ChatGPT 背后的軟件實驗室 OpenAI 的首席執行官Sam Altman在2月份也承認了這一點，并在有報道稱該模型生成充滿種族主義和性別歧視語言的回復后寫道，該模型“存在偏見方面的缺陷”。
邁克爾·安建議，任何希望將大型語言模型整合到其服務中的政府機構都應采用某種監督機制來審查這些系統是否存在偏見，這些偏見會導致政策決策損害已經處于不利地位的群體。
“政府官員將負責審查決定并擁有最終決定權。”他說，“我相信人工智能將被用于政府和世界各地。但最終決定由人類做出。我們可能需要一個專門的機構來調查這個問題，以檢查數據和算法的偏見和透明度。”
大模型已經度過幻滅期
特拉華州首席信息官杰森·克拉克 (Jason Clarke) 告訴StateScoop，雖然他的機構內還沒有對 ChatGPT 進行太多討論，但它已成為處理該州目前使用的人工智能應用程序中所有信息的潛在工具。特拉華州使用人工智能來支持監控交通狀況和檢測網絡入侵等功能，以比人類更快的速度分析大量數據。
特拉華州的一些州機構也擁有聊天機器人。克拉克目前還沒有計劃深入研究大型語言模型，不過他表示，有一天，公共部門可能會在私營部門起飛后接受它們。
“我認為私營部門已經能夠展示其如何在商業中發揮作用，隨著這些產品變得更加主流，國家也將購買這些產品，”他說，“從研發的角度來看，他們有更多的機會走在前沿并在某些領域進行嘗試。通常這會變成一些服務產品，此時州和地方政府可以購買，因為我們很少有能力建造。”
盡管洛杉磯首席信息官羅斯（Ross）聲稱很興奮，但他也承認圍繞 ChatGPT 的討論陷入了IT咨詢公司Gartner定義的“炒作周期”。
“當已經達到了過高期望的頂峰之后。人們會感到幻滅，然后就會真正從技術中獲得牽引力，并將其用于實際用途。”羅斯表示。
ChatGPT無法取代人性化的觸感
總體而言，ChatGPT 等人工智能聊天機器人的出現為州和地方政府改善數字服務并更好地為居民服務提供了重要機會。通過利用人工智能技術的最新進展，政府以降低成本、提高效率，并為其選民提供更加個性化和有效的服務。
這就是 ChatGPT 總結其在政府中的潛在應用的方式。但其中或它生成的幾十篇樣本文章中都沒有提到的是，一些政府決策總是需要人性化——這一事實甚至像羅斯這樣的熱衷者也很快提到。
“我覺得我們永遠會有一個呼叫中心，我們永遠會有那些要么更舒服，要么感覺與人保持聯系更重要的人，”他說，“在某些時候總會有一些事情需要人性化服務支持，并不是說我們無法擺脫它，我只是覺得我們不希望被公眾視為故意‘減少服務’。”
但羅斯表示，人工智能與政府的互動可能即將快速推進。根據城市或州的意愿，虛擬助理可能很快就會使用大型語言模型來幫助完成更基本的任務，例如支付停車罰單或填寫營業執照表格。
“我認為對于一些更簡單的項目，我們應該與呼叫中心運營商在未來一兩年內進行對話，這是一個巨大的飛躍。”他說。
但 ChatGPT 及其同類產品仍然是黑盒環境，任何在其上構建的產品的質量都取決于它們收到的數據和模型訓練的質量，麻省大學波士頓分校教授Ahn表示。
Ahn認為，“擁有ChatGPT本身不會有任何作用，這又回到了數據。他們需要小心地生成、收集數據，然后用數據進行訓練，然后留意應用規則的設計。你必須一遍又一遍地這樣做。你必須提防偏見，為其提供更多相關數據，然后繼續訓練，這樣你才能得到更有意義的結果。”
原文來源：https://statescoop.com/chatgpt-government-digital-services/
來源：數旗智酷