IT之家 1 月 7 日消息，據(jù)彭博社報道，第三方分析顯示，埃隆?馬斯克旗下平臺 X 已成為傳播 AI 生成的非自愿脫衣圖像的主要網(wǎng)站，本周早些時候，該平臺每小時就會出現(xiàn)數(shù)千張此類圖片。

自去年 12 月下旬以來，越來越多的 X 平臺用戶利用該平臺內置的人工智能聊天機器人 Grok，對他人發(fā)布的自拍照進行篡改。社交媒體與深度偽造技術研究員吉納維芙?吳指出，在對 Grok 官方賬號發(fā)布到 X 的圖片進行的 24 小時監(jiān)測中發(fā)現(xiàn)，該聊天機器人平均每小時生成約 6700 張帶有性暗示或裸露性質的圖像。而在 1 月 5 日至 6 日的同一監(jiān)測周期內，其余五個傳播此類內容的主要網(wǎng)站，平均每小時新增的 AI “脫衣”圖像僅為 79 張。

專攻網(wǎng)絡性犯罪案件的律師卡麗?戈德堡表示，X 平臺上深度偽造內容的泛濫程度“前所未有”。她補充道：“我們從未見過哪項技術能如此輕易地生成這類圖像”，因為 Grok 是免費的，還與平臺自帶的傳播系統(tǒng)直接關聯(lián)。

美國責任創(chuàng)新組織政策高級主管布蘭迪?諾內克指出，與其他主流聊天機器人不同，Grok 對用戶幾乎不設限，允許用戶生成針對真人（包括未成年人）的性化內容。她表示，Anthropic 公司、OpenAI 以及谷歌母公司 Alphabet 旗下的其他生成式人工智能技術，“從一開始就在真誠地采取措施，抑制此類不良內容的生成”?！帮@然，xAI（Grok 的開發(fā)公司）的做法截然不同，它幾乎是在放任用戶肆意妄為?！瘪R斯克曾宣稱，Grok 比其他聊天機器人更有趣、更敢說，并為 X 平臺成為“言論自由之地”而感到自豪。

針對此事，X 平臺未予置評。馬斯克并未從源頭阻止聊天機器人生成此類內容，而是主張對提出相關生成請求的用戶進行懲罰。他在 X 平臺的一則帖子回復中表示：“任何利用 Grok 生成非法內容的用戶，都將面臨與上傳非法內容相同的后果?！?/p>

然而，這樣的舉措給受害者留下的維權空間微乎其微。23 歲的醫(yī)學預科生麥迪（化名）稱，元旦當天醒來，她看到了一張令自己毛骨悚然的圖片。此前，她曾在 X 平臺發(fā)布一張與男友在當?shù)鼐瓢傻暮嫌?，兩名陌生用戶卻用 Grok 對這張照片進行了篡改：一人讓 Grok 移除了照片中的男友，并將她的衣服換成比基尼；另一人則要求 Grok 把比基尼替換成牙線。

“我的心一下子沉了下去，”麥迪說，“我感到絕望、無助，滿心都是厭惡?！?/p>

麥迪表示，她和朋友曾通過 X 平臺的內容審核系統(tǒng)舉報這些圖片，但始終未收到任何回復。她還舉報了其中一名用戶發(fā)布的其他帖子，而根據(jù)舉報反饋截圖顯示，X 平臺稱“經(jīng)核查，你舉報的內容未違反 X 平臺相關規(guī)定”。截至本文刊發(fā)時，這些違規(guī)圖片仍未被下架。

遭遇深度偽造侵害的受害者們紛紛在相關帖子的評論區(qū)與 Grok 對質。Grok 雖時常道歉并承諾會刪除圖片，但在多數(shù)情況下，這些圖像依然存在，且 Grok 還在不斷生成新的偽造內容。吳的研究數(shù)據(jù)顯示，Grok 生成的圖像中，高達 85% 都帶有性化性質。

IT之家注意到，Grok 因生成傳播未經(jīng)同意的性化圖像（包括涉及未成年人的內容），正遭到歐盟、英國、馬來西亞、法國和印度等多國監(jiān)管機構的強烈譴責。歐盟委員會發(fā)言人托馬斯?勒尼耶在周一的新聞發(fā)布會上表示：“我們注意到，X 平臺或其旗下 Grok 聊天機器人推出了所謂的‘火辣模式’，該模式會生成露骨的性內容，部分輸出圖像甚至包含兒童形象?！彼傅氖侨ツ?11 月初 Grok 的一次更新，該更新使其具備了生成性暗示內容的功能，“這根本不是什么‘火辣’，而是違法行為?！?/p>

一位化名 BB 杰絲的 X 平臺網(wǎng)紅博主稱，此前其他網(wǎng)站上未經(jīng)她同意發(fā)布的“脫衣”偽造圖片，終于陸續(xù)被下架。但就在上周，Grok 又生成了大量針對她的新偽造圖像。她表示，當自己在 X 平臺發(fā)文維權、譴責深度偽造行為后，相關惡意帖子反而變本加厲。

美國《通信規(guī)范法》第 230 條款規(guī)定，平臺對用戶發(fā)布的內容無需承擔法律責任。但律師戈德堡指出，在人工智能生成內容的問題上，“X 平臺并非只是被動的內容發(fā)布方，它實際上直接參與了圖像的生成與創(chuàng)作”。

諾內克表示，2025 年簽署生效的聯(lián)邦法律《下架法案》明確規(guī)定，平臺需對這類內容的生成與傳播承擔法律責任?！斑@一案例恰好充分說明，這部法律應當盡快落地實施?！毕嚓P平臺需在 2026 年 5 月前建立起法定的內容下架處理機制。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。