新加坡提出立法禁止選舉中使用Deepfake
責編：gltian ｜2024-09-11 14:23:189月9日，新加坡數字發展和信息部(MDDI)提出了一項新立法，旨在遏制在選舉期間使用深度偽造和其他數字操縱的內容。此前，民眾擔憂人工智能被濫用來傳播錯誤信息。
背景：全球Deepfake流行病
該法案的出臺正值全球對deepfake技術被惡意使用（包括用于詐騙和勒索）的擔憂日益加劇。
隨著新加坡的下一次大選將于2025年11月舉行，新立法旨在防止錯誤信息影響選民的決定。
近年來，深度偽造一直困擾著全球互聯網，還擾亂了多個國家的選舉。據報道，最近在美國，哈里斯和特朗普的虛假視頻正在流傳，這正是去年11月起人們所說的“首屆AI驅動的選舉”的一部分。
作為回應，世界各國都在出臺法規來打擊選舉期間的深度偽造——韓國政府在4月選舉前對政治AI生成的內容實施了為期90天的禁令，他們在今年1月至2月中旬期間發現了129起被認為違反公職人員選舉法的深度偽造。
2023年12月，新加坡時任總理李顯龍和時任副總理黃循財宣傳投資平臺的深度偽造視頻在網上流傳，這些視頻使用AI來復制他們的聲音和面部表情。
今年1月初，新加坡數字發展和信息部長兼智能國家和網絡安全部長JosephineTeo女士宣布，新加坡需要開發新的能力來打擊詐騙者和在線威脅，包括深度偽造。
她透露了一項價值5000萬新元的計劃，旨在開發檢測和打擊錯誤信息和深度偽造的工具。
除了選舉之外，新加坡資訊通信媒體發展局（IMDA）還將為社交媒體平臺引入一項新的行為準則，以解決被操縱的數字內容。
此準則將確保平臺采取更有力的措施來監控和審核此類內容。IMDA計劃在未來幾個月內與社交媒體公司合作，以最終確定該準則的細節。
禁止與豁免
根據擬議的法律，發布、分享或轉發符合三個特定標準的數字修改內容將構成刑事犯罪：
1.可能影響選民參與等選舉結果的逼真仿冒音頻或自動電話；
2.偽造圖像和視頻，歪曲候選人；
3.逼真的AI生成的競選材料，可能會以正面或負面的方式描繪候選人。
該法案旨在在言論自由和保障選舉相關內容的準確性之間取得平衡。
擬議的法律將不包括微小的數字修改，例如美顏濾鏡、表情包和動畫角色等娛樂內容。
私人通信，例如一對一聊天或家庭群組對話，將不受法律管轄，但更大、更公共的論壇，例如大型WhatsApp群組，可能會根據群組內關系的性質受到禁止。
擬議的禁令也不適用于授權新聞機構發布的內容，以允許對被禁止的內容進行事實報道。
處罰與執行
如果獲得通過，該法案將使候選人能夠要求選舉官（RO）審查歪曲他們的內容。也就是說，虛假言論和陳述可能會導致罰款或失去選舉席位。
其他人也可要求對發出選舉令到投票日結束期間的非法內容進行審查。
RO可以下令對分發違禁選舉廣告的人采取糾正措施。不遵守規定的社交媒體平臺可能面臨最高100萬新元的罰款，而個人可能面臨最高1,000新元的罰款、最高一年的監禁，或兩者兼施。
糾正措施可能包括在選舉期內刪除或阻止新加坡用戶訪問內容。
如果該法案獲得通過，它將修改《議會選舉法》和《總統選舉法》，增加新的保障措施來保護選舉的公正性。
要受到這項法律的保護，潛在候選人必須首先支付他們的選舉押金，并同意在提名日之前將他們的名字列在選舉局的網站上。
這些措施也適用于從提名日到投票日期間成功提名的候選人。
與現有法案有何不同？
該法案將在下一次議會會議上提交二次審議。
MDDI還表示，雖然政府已經可以通過《防止在線虛假和操縱法》(POFMA) 來解決違反公共利益的在線虛假信息，但需要采取具體措施來打擊在選舉期間針對候選人的深度偽造。
我們認為這項新法案不是取代POFMA，而是加強我們在線選舉廣告法規的一種手段，以提升我們選舉過程的完整性。
發言人進一步解釋說，在知道事實的情況下，政府可以通過POFMA處理虛假信息。例如，當有人對儲備或房價造假時，政府可基于已知事實判定真偽。
“然而，在以政治候選人為主角的深度偽造中，政府要確定一個人說了什么或沒說什么、做了什么或沒做什么則困難得多。因此，我們需要個人站出來聲明這是虛假陳述。”
來源｜?The Online Citizen、Mothership.sg、vulcanpost
編譯｜鄭惠敏
審核｜張羽翔