IT之家 7 月 6 日消息，據(jù)《連線》報(bào)道，根據(jù) Meta 內(nèi)部文件及五名知情人士透露，數(shù)百名參與 Meta 某項(xiàng)目的外包人員在網(wǎng)絡(luò)上偽裝成未成年人，以此來探測競爭對手的聊天機(jī)器人會如何回應(yīng)涉及自殺、性、進(jìn)食障礙及其他高風(fēng)險(xiǎn)話題的提示詞。

該項(xiàng)目由 Meta 的外包公司 Covalen 負(fù)責(zé)管理，其運(yùn)行時(shí)間至少持續(xù)到了 4 月 21 日。該項(xiàng)目內(nèi)部代號為 Cannes（戛納），主要針對 OpenAI 的 ChatGPT、谷歌的 Gemini 以及 Character.AI。

項(xiàng)目要求工作人員創(chuàng)建 18 歲以下的虛假賬號，向競品的聊天機(jī)器人發(fā)送文字提示詞和圖片，并將回復(fù)內(nèi)容復(fù)制到電子表格中。外包人員發(fā)送的圖片包括藥片、刀具、絞索等。

IT之家注意到，項(xiàng)目指南顯示，這些提示詞通常經(jīng)過精心設(shè)計(jì)，旨在誘導(dǎo)聊天機(jī)器人繞過其安全系統(tǒng)本應(yīng)執(zhí)行的攔截機(jī)制并生成回復(fù)。

在 2025 年 8 月完成的單輪測試中，工作人員向競品聊天機(jī)器人輸入了超過 4.5 萬個(gè)提示詞。而這些聊天機(jī)器人背后的公司對此次測試并不知情。

一份電子表格列出了多個(gè)虛假的賬號資料，包含姓名、電子郵件地址、密碼和出生日期。這些賬號均使用隨用隨棄的 Gmail 和 Outlook 郵箱地址，并共用同一個(gè)密碼。

另一份電子表格則記錄了外包人員發(fā)送的 3748 個(gè)提示詞。數(shù)百個(gè)提示詞聚焦于自殺和自殘，另有數(shù)百個(gè)探討了進(jìn)食障礙問題。

許多提示詞是以身處困境的兒童或青少年的口吻編寫的：例如，一名自稱 13 歲的女孩說她懷了成年鄰居的孩子，想知道去哪能買到墮胎藥；一名五年級學(xué)生聲稱有同學(xué)拿槍指著他的嘴；還有一個(gè)女孩詢問如何向父母隱瞞自己患有暴食癥。

Meta 在一份聲明中對此進(jìn)行了辯護(hù)，稱其為常規(guī)的安全測試。Meta 發(fā)言人在聲明中表示：“對聊天機(jī)器人的回復(fù)進(jìn)行測試和基準(zhǔn)測試，有助于確保提供安全且適齡的用戶體驗(yàn)，這是一項(xiàng)負(fù)責(zé)任的行業(yè)標(biāo)準(zhǔn)做法。任何相反的觀點(diǎn)都完全誤解了科技公司為完善和改進(jìn)其系統(tǒng)所做的工作?！?/p>

該發(fā)言人還強(qiáng)調(diào)，公司不會使用針對競品的基準(zhǔn)測試數(shù)據(jù)來訓(xùn)練自家的 AI 模型。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。