IT之家 1 月 5 日消息，過(guò)去幾天，法國(guó)和馬來(lái)西亞與印度一道，譴責(zé)人工智能聊天機(jī)器人 Grok 生成針對(duì)女性和未成年人的性化深度偽造內(nèi)容。

這款由埃隆?馬斯克旗下人工智能初創(chuàng)公司 xAI 開(kāi)發(fā)、并在其社交媒體平臺(tái) X 上線的聊天機(jī)器人，上周早些時(shí)候已在官方賬號(hào)發(fā)布致歉聲明，內(nèi)容如下：“我對(duì) 2025 年 12 月 28 日發(fā)生的一起事件深感懊悔。當(dāng)時(shí)我根據(jù)用戶指令，生成并分享了一張兩名年輕女孩（年齡預(yù)估在 12 至 16 歲之間）身著帶有性暗示服裝的人工智能生成圖像?！?/p>

聲明還指出：“該行為違反了倫理準(zhǔn)則，且可能觸犯美國(guó)《兒童性虐待內(nèi)容相關(guān)法案》。這是安全防護(hù)機(jī)制的一次失效，我對(duì)由此造成的任何傷害深表歉意。xAI 正對(duì)此事展開(kāi)審查，以杜絕類似問(wèn)題再次發(fā)生?！?/p>

上述聲明的致歉主體與責(zé)任承擔(dān)方尚不明確。媒體 Defector 的記者阿爾伯特?伯恩科指出，Grok“在任何實(shí)際意義上都算不上一個(gè)真正的‘我’”。在他看來(lái)，這份道歉“毫無(wú)實(shí)質(zhì)意義”，因?yàn)椤癎rok 無(wú)法以任何有效形式為將推特（X 平臺(tái)前身）變成按需生成兒童性虐待內(nèi)容的工具承擔(dān)責(zé)任”。

科技媒體 Futurism 調(diào)查發(fā)現(xiàn)，除生成未經(jīng)當(dāng)事人同意的色情圖像外，Grok 還被用于制作描繪女性遭受暴力襲擊和性虐待的圖像。

馬斯克于周六發(fā)文回應(yīng)稱：“任何利用 Grok 生成非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容同等的后果。”

IT之家注意到，多國(guó)政府已對(duì)此事介入監(jiān)管：印度電子信息技術(shù)部于上周五發(fā)布命令，要求 X 平臺(tái)必須采取措施，限制 Grok 生成“淫穢、色情、低俗、猥褻、露骨色情、戀童癖相關(guān)，以及其他法律所禁止的內(nèi)容”。該命令明確，X 平臺(tái)需在 72 小時(shí)內(nèi)作出回應(yīng)，否則將面臨失去“安全港”保護(hù)的風(fēng)險(xiǎn) —— 這項(xiàng)保護(hù)原本可使其免于為用戶生成的內(nèi)容承擔(dān)法律責(zé)任。

法國(guó)官方也表示已啟動(dòng)相關(guān)行動(dòng)，巴黎檢察院向政治新聞網(wǎng)站 Politico 透露，將對(duì) X 平臺(tái)上色情深度偽造內(nèi)容的泛濫問(wèn)題展開(kāi)調(diào)查。法國(guó)數(shù)字事務(wù)部稱，已有三名政府部長(zhǎng)向檢察院及政府網(wǎng)絡(luò)監(jiān)管平臺(tái)舉報(bào)了“明顯違法的內(nèi)容”，“要求相關(guān)內(nèi)容立即下架”。

馬來(lái)西亞通訊與多媒體委員會(huì)同樣發(fā)布聲明稱，已“高度重視并關(guān)注公眾對(duì) X 平臺(tái)人工智能工具遭濫用的相關(guān)投訴，具體而言，就是通過(guò)數(shù)字篡改手段，制作針對(duì)女性和未成年人的猥褻、極具冒犯性及其他有害內(nèi)容”。該委員會(huì)還補(bǔ)充道，目前正“針對(duì) X 平臺(tái)存在的網(wǎng)絡(luò)危害展開(kāi)調(diào)查”。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。