IT之家 1 月 3 日消息，埃隆?馬斯克旗下 xAI 本周為 Grok 推出了新圖像編輯功能，允許 X 用戶無需原作者同意（也不會通知原作者）即可編輯任何圖像，引發(fā)用戶爭議。

后續(xù)將這一事件徹底推向風(fēng)口浪尖的則是 —— 馬斯克 1 月 1 日要求 Grok 將演員本?阿弗萊克的 AI 梗圖替換為自己的臉，從而掀起了一股“比基尼換裝”熱潮。

但問題在于該功能并未得到充分驗證，甚至還有部分“樂子人”通過這一功能生成了大量涉及未成年人，以及涉及唐納德?特朗普（美國總統(tǒng)）、普麗蒂?帕特爾（英國印裔女性政治家）等領(lǐng)導(dǎo)人的圖片，引發(fā)普通用戶及監(jiān)管機構(gòu)不滿。

對此，xAI 昨日承認“已識別到防護措施存在疏漏，正在緊急修復(fù)”，并強調(diào)兒童性材料“屬于違法且被禁止的內(nèi)容”。

前一天，Grok 稱已審查近期與 X 用戶的交互記錄，將這些事件描述為“個別案例”，稱有用戶要求生成“描繪未成年人穿著極少衣物”的圖像。Grok 補充表示“正在持續(xù)改進，以徹底屏蔽此類請求”。

IT之家注意到，xAI 技術(shù)人員帕爾薩?塔吉克也公開承認了這一問題：“感謝反饋，團隊正在研究進一步收緊我們的限制措施。”

馬斯克旗下 xAI 產(chǎn)品常因為高用戶自由度、低防護度引起爭議。其 AI 女友 Ani 可與用戶調(diào)情；Grok 還會生成泰勒?斯威夫特的深度偽造裸露視頻，盡管 xAI 明確禁止“以色情方式描繪人物肖像”。

行業(yè)專家指出，更廣泛的問題超越 Grok 本身。2022 年 ChatGPT 的推出加速了 AI 生圖的擴散，許多公司目前難以防止功能濫用。該技術(shù)助長了涉及真人的深度偽造色情內(nèi)容，兒童安全組織稱問題正在加劇。

監(jiān)管機構(gòu)已拉響警報：英國互聯(lián)網(wǎng)觀察基金會（非營利組織）報告稱，AI 生成的兒童性虐待材料在 2025 年前六個月增長達 400%，并形容該速度“令人驚恐”，調(diào)查人員現(xiàn)已發(fā)現(xiàn)“首批令人信以為真”的描繪兒童性虐待的 AI 視頻。

法國巴黎檢方表示，將對 xAI Grok 涉嫌生成非法色情內(nèi)容啟動調(diào)查。據(jù)稱，一些用戶借此生成真實人物的虛假性暴露內(nèi)容，并在 X 平臺上散播。受害者包括數(shù)百名女性和未成年人。

印度電子和信息技術(shù)部上周五要求政府對 Grok 的安全功能進行審查。印度官員指出該平臺出現(xiàn)“新趨勢”，用戶上傳女性照片并要求聊天機器人“減少其衣物并使其性感化”。該部稱此行為“不可接受，是對 AI 功能的嚴重濫用”。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。