压在透明的玻璃上c-国产精品国产一级A片精品免费-国产精品视频网-成人黄网站18秘 免费看|www.tcsft.com

2025年1月3日，新年伊始，美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）發(fā)布了一篇題為“AI and the Risk of Consumer Harm”(AI 與消費(fèi)者損害風(fēng)險(xiǎn))的技術(shù)博客，以近期的一些案例和舉措為例，梳理了公司在開(kāi)發(fā)、維護(hù)、使用和部署基于AI的產(chǎn)品時(shí)需要考慮的因素。

FTC關(guān)注和監(jiān)管的范圍

作為美國(guó)聯(lián)邦層面的機(jī)構(gòu)，F(xiàn)TC的職責(zé)是處理所有經(jīng)濟(jì)部門(mén)的消費(fèi)者保護(hù)和競(jìng)爭(zhēng)問(wèn)題。FTC在博客中指出，其對(duì)AI的關(guān)注也是從消費(fèi)者保護(hù)和競(jìng)爭(zhēng)的角度出發(fā)的。

FTC指出，由于法律沒(méi)有對(duì)AI豁免，因此部署AI系統(tǒng)和工具的公司有義務(wù)遵循包含F(xiàn)TC執(zhí)行的競(jìng)爭(zhēng)和消費(fèi)者保護(hù)法規(guī)在內(nèi)的現(xiàn)有法律。目前，F(xiàn)TC已經(jīng)日益關(guān)注到AI可能在商業(yè)監(jiān)控、欺詐和冒充以及非法歧視等方面造成的損害。

在這里，F(xiàn)TC舉例涵蓋的AI系統(tǒng)和工具包括：客服聊天機(jī)器人、教育工具、為社交媒體提供支持的推薦技術(shù)、可能將特定消費(fèi)者標(biāo)記為安全風(fēng)險(xiǎn)的面部識(shí)別技術(shù)、決定是否或者以何種條件獲得醫(yī)療幫助、住所、工作或貸款等的工具。

具體而言，F(xiàn)TC的工作人員可以分析AI工具是否侵犯了人們的隱私，或者是否容易受到使個(gè)人數(shù)據(jù)面臨風(fēng)險(xiǎn)的對(duì)抗性輸入或攻擊。而且，F(xiàn)TC還可以審查用于欺詐、操縱或未經(jīng)同意的圖像或危害兒童和他人的生成式AI工具。此外，F(xiàn)TC還關(guān)注在高風(fēng)險(xiǎn)環(huán)境中做出決策的算法產(chǎn)品，這些高風(fēng)險(xiǎn)環(huán)境包括但不限于健康、住房、就業(yè)或進(jìn)入等領(lǐng)域。

FTC強(qiáng)調(diào)的風(fēng)險(xiǎn)因素

FTC回顧了一系列近期的案例和舉措，強(qiáng)調(diào)了公司在開(kāi)發(fā)、維護(hù)、使用和部署基于AI的產(chǎn)品時(shí)，需要考慮的四大方面因素。

第一，在部署產(chǎn)品之前和之后都采取必要措施防止損害。

FTC在2023年曾指控零售藥房Rite Aid在使用面部識(shí)別技術(shù)（FRT）時(shí)未采取合理措施防止對(duì)消費(fèi)者造成傷害，原因是Rite Aid使用的FRT在商店中誤將消費(fèi)者（尤其是女性和有色人種）標(biāo)記為扒手。

FTC的投訴提到，該公司在部署FRT技術(shù)之前沒(méi)能采取合理的步驟測(cè)試、評(píng)估、測(cè)量、記錄或詢(xún)問(wèn)其FRT的準(zhǔn)確性。進(jìn)一步，該公司在部署后也未能采取合理措施定期監(jiān)控或測(cè)試技術(shù)的準(zhǔn)確性，具體包括未“實(shí)施任何程序來(lái)跟蹤面部識(shí)別匹配的假陽(yáng)性率或基于假陽(yáng)性面部識(shí)別匹配所采取的行動(dòng)?！?/p>

對(duì)此，F(xiàn)TC強(qiáng)調(diào)，提供AI模型的公司需要在部署其工具之前和期間評(píng)估和減輕潛在的下游危害，其中包括解決用于做出消費(fèi)者決策的技術(shù)和使用和影響。

第二，采取預(yù)防措施，檢測(cè)、組織和停止與AI相關(guān)的冒充、欺詐、兒童性虐待材料和未經(jīng)同意的私密圖像。

2024年4月，F(xiàn)TC發(fā)布了一項(xiàng)關(guān)于打擊冒充政府和企業(yè)的規(guī)則——考慮到AI生成的深度偽造等技術(shù)正在加劇欺詐。FTC指出，雖然生成式AI是新的技術(shù)，但上述危害并不新鮮。在向國(guó)會(huì)提交的《打擊在線危害報(bào)告》中，F(xiàn)TC討論了深度偽造的問(wèn)題。

此外，F(xiàn)TC還發(fā)起了一項(xiàng)語(yǔ)音克隆挑戰(zhàn)賽，旨在通過(guò)檢測(cè)和阻止未經(jīng)授權(quán)的用戶(hù)濫用語(yǔ)音克隆軟件來(lái)促進(jìn)消費(fèi)者保護(hù)，具體方向包括應(yīng)用有效的實(shí)時(shí)檢測(cè)或監(jiān)控措施、使用解決方案評(píng)估現(xiàn)有內(nèi)容、防止和遏制基于AI的詐騙和欺詐行為以及利用解決方案構(gòu)建有力的身份驗(yàn)證或防止上游傷害的防護(hù)措施。

第三，避免可能導(dǎo)致人們損失金錢(qián)或者使用戶(hù)面臨損害風(fēng)險(xiǎn)的關(guān)于AI工具的欺騙性聲明。

FTC提及了許多起關(guān)于AI產(chǎn)品將幫助人們創(chuàng)業(yè)或賺錢(qián)的欺騙性聲明的案件。2025年9月，F(xiàn)TC發(fā)起的“Operation AI Comply”（AI合規(guī)行動(dòng)）打擊了五起利用AI欺詐消費(fèi)者的案件，一個(gè)典型的例子是一些公司生成其AI產(chǎn)品能夠幫助人們創(chuàng)業(yè)或者賺錢(qián)：該計(jì)劃聲稱(chēng)其“尖端”人工智能工具將幫助消費(fèi)者通過(guò)開(kāi)設(shè)在線店面快速每月賺取數(shù)千美元的被動(dòng)收入。根據(jù)投訴，該計(jì)劃已詐騙消費(fèi)者至少 2500 萬(wàn)美元。

第四，默認(rèn)隱私保護(hù)和安全。

生成式 AI 工具需要大量數(shù)據(jù)輸入，其中一些數(shù)據(jù)可能非常敏感。FTC長(zhǎng)期以來(lái)一直為企業(yè)提供有關(guān)確保數(shù)據(jù)安全和隱私保護(hù)的知道，例如已通過(guò)了“關(guān)于生物識(shí)別信息的政策聲明”（Policy Statement of the Federal Trade Commission on Biometric Information and Section 5 of the Federal Trade Commission Act）。FTC已對(duì)未能遵循該項(xiàng)法律義務(wù)的公司發(fā)起了訴訟。例如，F(xiàn)TC對(duì)亞馬遜的語(yǔ)音助手服務(wù)Alexa提出投訴，指控該公司默認(rèn)設(shè)置將用戶(hù)（包括兒童）的語(yǔ)音錄音永久保存。FTC表示，亞馬遜“誤導(dǎo)了Alexa用戶(hù)關(guān)于刪除語(yǔ)音錄音的能力”，并非法使用這些數(shù)據(jù)來(lái)改善Alexa算法。FTC工作人員還建議公司不應(yīng)悄悄更改其服務(wù)條款。

FTC在結(jié)尾處總結(jié)，有效緩解AI的這些風(fēng)險(xiǎn)有助于推動(dòng)其好處的發(fā)揮。公司使用AI工具時(shí)可能對(duì)消費(fèi)者產(chǎn)生重大影響，因此需要在消費(fèi)者接觸前、過(guò)程中和之后解決相關(guān)風(fēng)險(xiǎn)。當(dāng)公司思考如何開(kāi)發(fā)、部署和維護(hù)基于AI的系統(tǒng)時(shí)，應(yīng)考慮其可能帶來(lái)的風(fēng)險(xiǎn)，并采取積極措施保護(hù)公眾，以防其工具成為未來(lái)FTC的案例研究。

參考資料：https://www.ftc.gov/policy/advocacy-research/tech-at-ftc/2025/01/ai-risk-consumer-harm

聲明：本文來(lái)自數(shù)據(jù)信任與治理，稿件和圖片版權(quán)均歸原作者所有。所涉觀點(diǎn)不代表東方安全立場(chǎng)，轉(zhuǎn)載目的在于傳遞更多信息。如有侵權(quán)，請(qǐng)聯(lián)系rhliu@skdlabs.com，我們將及時(shí)按原作者或權(quán)利人的意愿予以更正。