压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

2025年1月3日，新年伊始，美國聯(lián)邦貿(mào)易委員會（FTC）發(fā)布了一篇題為“AI and the Risk of Consumer Harm”(AI 與消費(fèi)者損害風(fēng)險)的技術(shù)博客，以近期的一些案例和舉措為例，梳理了公司在開發(fā)、維護(hù)、使用和部署基于AI的產(chǎn)品時需要考慮的因素。

FTC關(guān)注和監(jiān)管的范圍

作為美國聯(lián)邦層面的機(jī)構(gòu)，F(xiàn)TC的職責(zé)是處理所有經(jīng)濟(jì)部門的消費(fèi)者保護(hù)和競爭問題。FTC在博客中指出，其對AI的關(guān)注也是從消費(fèi)者保護(hù)和競爭的角度出發(fā)的。

FTC指出，由于法律沒有對AI豁免，因此部署AI系統(tǒng)和工具的公司有義務(wù)遵循包含F(xiàn)TC執(zhí)行的競爭和消費(fèi)者保護(hù)法規(guī)在內(nèi)的現(xiàn)有法律。目前，F(xiàn)TC已經(jīng)日益關(guān)注到AI可能在商業(yè)監(jiān)控、欺詐和冒充以及非法歧視等方面造成的損害。

在這里，F(xiàn)TC舉例涵蓋的AI系統(tǒng)和工具包括：客服聊天機(jī)器人、教育工具、為社交媒體提供支持的推薦技術(shù)、可能將特定消費(fèi)者標(biāo)記為安全風(fēng)險的面部識別技術(shù)、決定是否或者以何種條件獲得醫(yī)療幫助、住所、工作或貸款等的工具。

具體而言，F(xiàn)TC的工作人員可以分析AI工具是否侵犯了人們的隱私，或者是否容易受到使個人數(shù)據(jù)面臨風(fēng)險的對抗性輸入或攻擊。而且，F(xiàn)TC還可以審查用于欺詐、操縱或未經(jīng)同意的圖像或危害兒童和他人的生成式AI工具。此外，F(xiàn)TC還關(guān)注在高風(fēng)險環(huán)境中做出決策的算法產(chǎn)品，這些高風(fēng)險環(huán)境包括但不限于健康、住房、就業(yè)或進(jìn)入等領(lǐng)域。

FTC強(qiáng)調(diào)的風(fēng)險因素

FTC回顧了一系列近期的案例和舉措，強(qiáng)調(diào)了公司在開發(fā)、維護(hù)、使用和部署基于AI的產(chǎn)品時，需要考慮的四大方面因素。

第一，在部署產(chǎn)品之前和之后都采取必要措施防止損害。

FTC在2023年曾指控零售藥房Rite Aid在使用面部識別技術(shù)（FRT）時未采取合理措施防止對消費(fèi)者造成傷害，原因是Rite Aid使用的FRT在商店中誤將消費(fèi)者（尤其是女性和有色人種）標(biāo)記為扒手。

FTC的投訴提到，該公司在部署FRT技術(shù)之前沒能采取合理的步驟測試、評估、測量、記錄或詢問其FRT的準(zhǔn)確性。進(jìn)一步，該公司在部署后也未能采取合理措施定期監(jiān)控或測試技術(shù)的準(zhǔn)確性，具體包括未“實(shí)施任何程序來跟蹤面部識別匹配的假陽性率或基于假陽性面部識別匹配所采取的行動。”

對此，F(xiàn)TC強(qiáng)調(diào)，提供AI模型的公司需要在部署其工具之前和期間評估和減輕潛在的下游危害，其中包括解決用于做出消費(fèi)者決策的技術(shù)和使用和影響。

第二，采取預(yù)防措施，檢測、組織和停止與AI相關(guān)的冒充、欺詐、兒童性虐待材料和未經(jīng)同意的私密圖像。

2024年4月，F(xiàn)TC發(fā)布了一項(xiàng)關(guān)于打擊冒充政府和企業(yè)的規(guī)則——考慮到AI生成的深度偽造等技術(shù)正在加劇欺詐。FTC指出，雖然生成式AI是新的技術(shù)，但上述危害并不新鮮。在向國會提交的《打擊在線危害報告》中，F(xiàn)TC討論了深度偽造的問題。

此外，F(xiàn)TC還發(fā)起了一項(xiàng)語音克隆挑戰(zhàn)賽，旨在通過檢測和阻止未經(jīng)授權(quán)的用戶濫用語音克隆軟件來促進(jìn)消費(fèi)者保護(hù)，具體方向包括應(yīng)用有效的實(shí)時檢測或監(jiān)控措施、使用解決方案評估現(xiàn)有內(nèi)容、防止和遏制基于AI的詐騙和欺詐行為以及利用解決方案構(gòu)建有力的身份驗(yàn)證或防止上游傷害的防護(hù)措施。

第三，避免可能導(dǎo)致人們損失金錢或者使用戶面臨損害風(fēng)險的關(guān)于AI工具的欺騙性聲明。

FTC提及了許多起關(guān)于AI產(chǎn)品將幫助人們創(chuàng)業(yè)或賺錢的欺騙性聲明的案件。2025年9月，F(xiàn)TC發(fā)起的“Operation AI Comply”（AI合規(guī)行動）打擊了五起利用AI欺詐消費(fèi)者的案件，一個典型的例子是一些公司生成其AI產(chǎn)品能夠幫助人們創(chuàng)業(yè)或者賺錢：該計(jì)劃聲稱其“尖端”人工智能工具將幫助消費(fèi)者通過開設(shè)在線店面快速每月賺取數(shù)千美元的被動收入。根據(jù)投訴，該計(jì)劃已詐騙消費(fèi)者至少 2500 萬美元。

第四，默認(rèn)隱私保護(hù)和安全。

生成式 AI 工具需要大量數(shù)據(jù)輸入，其中一些數(shù)據(jù)可能非常敏感。FTC長期以來一直為企業(yè)提供有關(guān)確保數(shù)據(jù)安全和隱私保護(hù)的知道，例如已通過了“關(guān)于生物識別信息的政策聲明”（Policy Statement of the Federal Trade Commission on Biometric Information and Section 5 of the Federal Trade Commission Act）。FTC已對未能遵循該項(xiàng)法律義務(wù)的公司發(fā)起了訴訟。例如，F(xiàn)TC對亞馬遜的語音助手服務(wù)Alexa提出投訴，指控該公司默認(rèn)設(shè)置將用戶（包括兒童）的語音錄音永久保存。FTC表示，亞馬遜“誤導(dǎo)了Alexa用戶關(guān)于刪除語音錄音的能力”，并非法使用這些數(shù)據(jù)來改善Alexa算法。FTC工作人員還建議公司不應(yīng)悄悄更改其服務(wù)條款。

FTC在結(jié)尾處總結(jié)，有效緩解AI的這些風(fēng)險有助于推動其好處的發(fā)揮。公司使用AI工具時可能對消費(fèi)者產(chǎn)生重大影響，因此需要在消費(fèi)者接觸前、過程中和之后解決相關(guān)風(fēng)險。當(dāng)公司思考如何開發(fā)、部署和維護(hù)基于AI的系統(tǒng)時，應(yīng)考慮其可能帶來的風(fēng)險，并采取積極措施保護(hù)公眾，以防其工具成為未來FTC的案例研究。

參考資料：https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2025/01/ai-risk-consumer-harm

聲明：本文來自數(shù)據(jù)信任與治理，稿件和圖片版權(quán)均歸原作者所有。所涉觀點(diǎn)不代表東方安全立場，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請聯(lián)系rhliu@skdlabs.com，我們將及時按原作者或權(quán)利人的意愿予以更正。