IT之家 1 月 4 日消息，因用戶及議員舉報(bào)其人工智能聊天機(jī)器人 Grok 生成“低俗色情”內(nèi)容（包括該工具制作的女性 AI 篡改圖像），印度已下令埃隆?馬斯克旗下的 X 平臺(tái)立即對(duì) Grok 進(jìn)行技術(shù)與操作流程整改。

當(dāng)?shù)貢r(shí)間周五，印度信息技術(shù)部發(fā)布命令，要求馬斯克的 X 平臺(tái)針對(duì) Grok 采取糾正措施，包括限制生成涉及“裸體、性化描述、露骨色情內(nèi)容及其他非法素材”的內(nèi)容。該部門還要求這家社交媒體平臺(tái)在 72 小時(shí)內(nèi)提交整改報(bào)告，詳細(xì)說(shuō)明為防止平臺(tái)托管或傳播“低俗、色情、粗鄙、不雅、露骨色情、戀童及其他法律禁止內(nèi)容”所采取的具體舉措。

據(jù)科技媒體 TechCrunch 查閱的這份命令顯示，若 X 平臺(tái)拒不整改，其享有的“安全港”保護(hù)地位將面臨風(fēng)險(xiǎn)，這項(xiàng)保護(hù)依據(jù)印度法律，可讓平臺(tái)對(duì)用戶生成內(nèi)容免除相關(guān)法律責(zé)任。

據(jù)IT之家了解，印度政府此番出手，源于此前用戶曝光的多起案例：有人通過(guò)指令讓 Grok 篡改人物圖像（對(duì)象以女性為主），使其呈現(xiàn)身穿比基尼的形象。印度議員普里揚(yáng)卡?查圖維迪就此正式提起投訴。此外，近期有報(bào)道指出該人工智能聊天機(jī)器人存在生成涉及未成年人的性化圖像的情況。X 平臺(tái)已于周五承認(rèn)，此事是由平臺(tái)安全防護(hù)措施存在漏洞所致，相關(guān)圖像隨后已被下架。

但據(jù) TechCrunch 調(diào)查發(fā)現(xiàn)，截至本篇報(bào)道發(fā)布時(shí)，X 平臺(tái)上仍能看到通過(guò) Grok 人工智能篡改生成的女性比基尼圖像。

就在此次命令發(fā)布的幾天前，印度信息技術(shù)部已于本周一發(fā)布了一份面向所有社交媒體平臺(tái)的更廣泛警示通知。通知中提醒各平臺(tái)，遵守印度當(dāng)?shù)仃P(guān)于低俗色情及露骨色情內(nèi)容的相關(guān)法律，是平臺(tái)獲得用戶生成內(nèi)容法律責(zé)任豁免權(quán)的前提條件。通知還敦促企業(yè)加強(qiáng)內(nèi)部安全防護(hù)機(jī)制，并警告稱，若未落實(shí)相關(guān)要求，平臺(tái)或?qū)⒁罁?jù)印度信息技術(shù)法及刑法面臨法律追責(zé)。

命令中警示道：“特此重申，若不遵守上述要求，有關(guān)部門將嚴(yán)肅處理，并可在不另行通知的情況下，對(duì)你方平臺(tái)、平臺(tái)相關(guān)負(fù)責(zé)人及平臺(tái)內(nèi)違法用戶追究嚴(yán)厲的法律責(zé)任?！庇《日硎?，不遵守命令的行為可能導(dǎo)致 X 平臺(tái)依據(jù)印度信息技術(shù)法及刑法相關(guān)規(guī)定被追責(zé)。

印度是全球最大的數(shù)字市場(chǎng)之一，該國(guó)已成為檢驗(yàn)各國(guó)政府在追究平臺(tái)對(duì)人工智能生成內(nèi)容責(zé)任方面決心邊界的關(guān)鍵案例。印度若加強(qiáng)相關(guān)執(zhí)法力度，可能會(huì)對(duì)在多個(gè)司法管轄區(qū)運(yùn)營(yíng)的全球科技企業(yè)產(chǎn)生連鎖反應(yīng)。

值得注意的是，X 平臺(tái)目前仍在法庭上對(duì)印度部分內(nèi)容監(jiān)管規(guī)則提出質(zhì)疑，認(rèn)為聯(lián)邦政府的內(nèi)容下架權(quán)力存在濫用風(fēng)險(xiǎn)；不過(guò)該平臺(tái)此前已遵守了印度政府下達(dá)的大部分內(nèi)容封禁指令。與此同時(shí)，X 平臺(tái)用戶越來(lái)越多地使用 Grok 進(jìn)行新聞事件的實(shí)時(shí)事實(shí)核查與評(píng)論，這也讓 Grok 生成的內(nèi)容比獨(dú)立人工智能工具的輸出內(nèi)容曝光度更高、政治敏感性更強(qiáng)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。