IT之家 1 月 28 日消息，Meta 在未成年人使用 AI 聊天機(jī)器人問題上正遭遇強(qiáng)烈質(zhì)疑。美國(guó)新墨西哥州總檢察長(zhǎng)辦公室披露的內(nèi)部文件顯示，Meta CEO 馬克 · 扎克伯格不希望聊天機(jī)器人與未成年人進(jìn)行“露骨”對(duì)話的同時(shí)，卻也反對(duì)“家長(zhǎng)控制”。
北京時(shí)間今天早間，路透社援引 Meta 員工內(nèi)部交流稱，公司內(nèi)部曾推動(dòng)用家長(zhǎng)控制關(guān)閉生成式 AI 功能，但遭到團(tuán)隊(duì)回絕，理由是“這是馬克的決定”。
Meta 則反擊稱，總檢察長(zhǎng)辦公室是在斷章取義。據(jù)IT之家了解，新墨西哥州目前正起訴 Meta，指控公司未能阻止兒童收到性內(nèi)容和性挑逗信息，案件預(yù)計(jì) 2 月開庭。
Meta 聊天機(jī)器人推出時(shí)間不長(zhǎng)，卻已多次曝出越界行為。2025 年 4 月，《華爾街日?qǐng)?bào)》調(diào)查發(fā)現(xiàn)，這些機(jī)器人可能與未成年人進(jìn)行幻想性愛對(duì)話，甚至能被引導(dǎo)去模仿未成年人展開“性”的交流。報(bào)道認(rèn)為扎克伯格傾向于放松防護(hù)，但 Meta 否認(rèn)了“忽視未成年人保護(hù)”的指控。
2025 年 8 月曝光的內(nèi)部審查材料還顯示，公司對(duì)聊天機(jī)器人允許的內(nèi)容邊界相當(dāng)模糊，甚至涉及種族主義言論的辯論。當(dāng)時(shí) Meta 曾表示，這些只是“假設(shè)情境”，而非實(shí)際政策。
盡管爭(zhēng)議不斷，Meta 直到上周才暫停青少年賬號(hào)訪問聊天機(jī)器人。公司表示，將在開發(fā)家長(zhǎng)控制工具期間暫時(shí)關(guān)閉未成年人入口。
Meta 發(fā)言人表示：“家長(zhǎng)一直能夠看到青少年是否在 Instagram 上與 AI 互動(dòng)，我們?cè)?10 月也宣布將推出更多工具，讓家長(zhǎng)擁有更強(qiáng)的掌控力。上周我們?cè)俅沃厣瓿兄Z，在更新版本完成前，青少年將完全無法接觸 AI 角色?！?/p>
新墨西哥州早在 2023 年 12 月就起訴 Meta，認(rèn)為 Meta 旗下平臺(tái)未能保護(hù)未成年人免受成年人騷擾。訴狀中披露的內(nèi)部文件顯示，Meta 服務(wù)每天約有 100000 名兒童用戶遭到騷擾。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。