IT之家 1 月 15 日消息，在 Grok 被持續(xù)指控生成涉及兒童的“性化”圖像及未經(jīng)同意裸露內(nèi)容、并引發(fā)數(shù)周輿論壓力后，X 宣布收緊 Grok 的圖像編輯與生成功能。
北京時間今天早間，X 通過 @Safety 賬號發(fā)文宣布，平臺已采取技術(shù)手段，禁止 Grok 對現(xiàn)實(shí)人物圖像進(jìn)行編輯，尤其是涉及比基尼等暴露服裝的內(nèi)容。這一限制將覆蓋所有用戶，不區(qū)分是否為付費(fèi)訂閱者。
與此同時，xAI 決定將 Grok 的圖像生成功能全面納入付費(fèi)訂閱體系，非付費(fèi)用戶將不再具備生成圖像的權(quán)限。
在法律明確禁止的地區(qū)，X 還將直接封鎖所有用戶通過 Grok 生成現(xiàn)實(shí)人物身穿比基尼、內(nèi)衣等服裝圖像的能力。
X 發(fā)布聲明的數(shù)小時前，加州已就 xAI 和 Grok 在 AI 生成裸露內(nèi)容及兒童剝削材料方面的處理方式展開調(diào)查。加州總檢察長羅布 · 邦塔指出，一項(xiàng)分析發(fā)現(xiàn)，在圣誕節(jié)到新年期間，xAI 生成的約 20000 張圖像中，超過一半涉及穿著極少的人物，其中包括疑似未成年人的形象。
X 在聲明中強(qiáng)調(diào)，對兒童剝削行為采取零容忍立場，并將持續(xù)清理包括兒童性虐待材料和未經(jīng)同意裸露內(nèi)容在內(nèi)的高優(yōu)先級違規(guī)信息。
據(jù)IT之家稍早之前報(bào)道，馬斯克自稱對 Grok 曾生成任何未成年人的裸露圖像“并不知情”。他隨后解釋稱，在啟用 NSFW 選項(xiàng)的情況下，Grok 理論上只應(yīng)允許生成虛構(gòu)成年人的上半身裸露內(nèi)容，而不涉及現(xiàn)實(shí)人物，其尺度與 Apple TV 上 R 級電影相當(dāng)。他補(bǔ)充說，此類限制會依據(jù)不同地區(qū)的法律要求作出調(diào)整。
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。