新一代隱私保護技術簡析與應用
責編：gltian ｜2022-07-11 13:48:07隨著數據和AI技能在許多組織普及開來，各種信息數據需要更廣泛地共享，實現其價值的最大化利用。但這些數據中包含了很多個人隱私信息，需要在數據使用過程中得到有效的保護。智能產品和服務正面臨功能與隱私之間的取舍，這種取舍表現為“我們能從事數據科學的利用，也可以有效保護數據隱私，但兩者無法兼得”。
目前，行業監管部門對個人隱私保護的要求非常嚴格，如果組織不能有效保護用戶的隱私數據，會面臨后果嚴重的合規處罰。因此，組織需要在保護用戶隱私的前提下，使用個人數據來構建智能產品。
新一代隱私保護技術盤點
在AI時代，確保個人隱私安全尤為重要也更加困難，因為借助當今的高速計算能力，連匿名化數據集都可以進行逆向工程處理，從而識別個人身份，并推測其隱私活動信息。傳統的數據保護措施難以滿足隱私保護要求，組織需要盡快了解并應用新一代隱私保護技術來保護智能化應用的安全開展。
?聯邦學習：該技術允許AI模型用保存在許多不同設備或服務器上的數據進行訓練。因此，無需從單一設備獲取數據或對數據進行復制，模型就能開展學習。這可以被視為“共享模型，而不是共享數據”，創建一個從本地數據學習的全局模型。
?安全多方計算：該技術主要能夠實現不同使用者能夠處理他們不想彼此共享的數據。它可以讓一組授權同意的使用者之間共享加密數據，并允許他們處理由所有方的個人數據組成的數據集，確不用訪問數據所有者的原始數據。
?同態加密：該技術允許數據在加密后進行處理利用。比如說，可以從可穿戴設備數據集找到關于關節炎患者的數據，對其進行運算處理，基于群組級洞察力來創建實用模型，根本不需要解密個人記錄。同態加密越來越受歡迎，研究人員希望有一天可以針對加密后的數據執行幾乎所有的應用計算。
?可信執行環境：這是一種硬件特性的隱私保護技術，可在計算設備上創建安全區，能夠單獨執行某些批準的功能。智能手機使用這種環境可以進行用戶生物特征身份驗證，也可以創建可信執行環境，以便在個人數據上運行AI模型，但是使用者確無法拿走該數據。
?差分隱私：即使建模者看不到原始數據，不法分子仍有可能對模型的輸出進行逆向工程處理以窺視個人身份。差分隱私有助于應對這個問題，還有助于保持匿名性。它為數據添加隨機的干擾信息，這會破壞數據點，但保留整個數據集的屬性。由于建模者知道這種隨機性，他們仍可以構建準確的的群組級模型，能可靠地預測。但是任何竊取數據的人不知道任何個人數據記錄是否準確。
隱私保護技術的應用
以上這些技術不僅僅是學術概念，它們已經在實際工作中得到切實運用。MELLODDY是一個由多家生命科學公司組成的行業聯盟，這些公司正在使用聯合學習來共享藥物發現數據。而最新的美國人口普查數據發布時，則采用了差分隱私技術，以確保個人無法被識別身份，同時提供了匯總的人口數據。聯合國PETS（隱私增強技術）實驗室正在測試一系列上述技術，旨在讓國家統計局、研究人員和公司企業能夠協作處理共享數據。
不過，在AI時代開展隱私保護工作并不容易，隱私保護技術的應用也面臨很多挑戰。例如同態加密等技術是計算密集型技術，對組織的計算能力有較高要求，而差分隱私在隱藏原始真實數據過程中，其準確性在一些特定場景下會難以保證。
沒有哪一種技術是萬能的！組織在開展隱私保護工作中需要綜合考慮這些新技術的特點，并結合實際使用場景，探索真正適合的隱私保護解決方案。
而且與所有數據項目一樣，好的隱私保護模型也同樣需要充分的底層數據支撐，隱私保護技術若要發揮實效，數據所有者需要采取良好的數據管理方法。由于一些建模者無法看到原始數據，對數據進行篩選以便處理匿名查詢顯得尤為重要。
最后，隱私保護技術不應該是事后添加的，而應該在業務系統開發過程中同步考慮。任何需要共享個人數據的程序都應該采取隱私保護優先的做法，先要考慮產品背后數據對隱私帶來的影響，并從一開始就添加合適的工具，這樣組織才能在保護用戶隱私的同時，獲得所需的洞察力。
穩定可靠的隱私保護技術措施有助于說服客戶共享數據，并合理兼顧尊重隱私和數據使用間的平衡。更廣泛、更深入、更具代表性的數據使組織能夠構建更準確、更通用、更實用的模型，從而支持智能化個性化的產品和服務。這么做非常重要，但也意味著必須保護和尊重與組織共享數據的用戶隱私安全。
參考鏈接