IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 視頻工具 Grok Imagine 擁有一個(gè)“辣”（spicy）模式，被認(rèn)為存在潛在的法律風(fēng)險(xiǎn)。據(jù) TheVerge 報(bào)道，與谷歌的 Veo 和 OpenAI 的 Sora 等其他視頻生成工具不同，Grok Imagine 似乎對(duì)生成成人內(nèi)容和名人換臉視頻毫無(wú)顧忌。在首次使用該工具時(shí)，其甚至在未被明確要求的情況下，直接生成了泰勒?斯威夫特（Taylor Swift）赤裸上身的視頻片段。

據(jù)IT之家了解，Grok Imagine 的 iOS 版本允許用戶通過文本提示詞生成圖片，并通過“自定義”“正?！薄坝腥ぁ焙汀袄薄彼姆N預(yù)設(shè)模式，快速將圖片轉(zhuǎn)化為視頻片段。盡管許多圖像生成器通常會(huì)避免生成名人形象，但當(dāng)被要求生成“泰勒?斯威夫特與男孩們一起慶?？魄欣魳饭?jié)”的圖片時(shí)，該工具卻提供了超過 30 張可供選擇的圖像，其中不少圖片中斯威夫特穿著暴露。

用戶只需打開一張斯威夫特穿著銀色短裙和露肩上衣的圖片，點(diǎn)擊右下角的“制作視頻”選項(xiàng)，從下拉菜單中選擇“辣”模式，并確認(rèn)自己的出生年份（盡管在英國(guó)已實(shí)行年齡限制，但下載該應(yīng)用時(shí)并未要求進(jìn)行年齡驗(yàn)證），視頻便會(huì)立即生成。在視頻中，斯威夫特脫掉衣服，僅穿著丁字褲在一群冷漠的 AI 生成觀眾面前跳舞。

盡管 Grok 生成的斯威夫特形象并不完美，大多數(shù)圖像都帶有一種“恐怖谷”般的不自然感，但仍可被識(shí)別為她本人。

此外，該圖像生成器還可以根據(jù)要求生成兒童的逼真照片，但值得慶幸的是，盡管“辣”選項(xiàng)仍然可用，其拒絕以不適當(dāng)?shù)姆绞綄?duì)兒童圖像進(jìn)行動(dòng)畫處理。在所有測(cè)試中，只是添加了一些普通的動(dòng)作。

xAI 的可接受使用政策確實(shí)禁止“以色情方式描繪人物形象”，但 Grok Imagine 似乎并未采取任何措施來(lái)阻止用戶生成像斯威夫特這樣的名人形象，同時(shí)提供了一項(xiàng)專門用于制作包含部分裸體的暗示性視頻的服務(wù)。而且年齡驗(yàn)證僅出現(xiàn)了一次，且極易被繞過，無(wú)需任何證明用戶所聲稱年齡的證據(jù)。

據(jù) xAI 首席執(zhí)行官埃隆?馬斯克（Elon Musk）透露，自周一以來(lái)，已有超過 3400 萬(wàn)張圖片通過 Grok Imagine 生成，其使用量正在“像野火般蔓延”。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。