IT之家 1 月 16 日消息，據(jù)《讀賣新聞》報道，針對Ｘ平臺生成式 AI 圖像編輯功能被濫用、他人照片被加工成色情圖像的問題，日本政府已正式介入。

當?shù)貢r間 1 月 15 日，日本政府已要求Ｘ采取改進措施，防止不當圖像被生成和傳播。若相關問題持續(xù)存在，該國政府將考慮首次依據(jù)《AI 法》對企業(yè)實施行政指導。這也是在國際社會陸續(xù)采取行動的背景下，日本政府首次明確表態(tài)并披露具體應對方案。

目前，Ｘ的圖像編輯功能使用的是 xAI 開發(fā)的對話型 AI“Grok”。用戶可通過兩種方式進行圖像加工：一種是在回復欄中輸入指令文字，另一種是在選擇發(fā)布圖片后，通過編輯界面下達指示。

自去年 12 月下旬第二種方式上線后，將他人照片加工成泳裝或內衣形象的案例在全球范圍內激增。日本國內亦出現(xiàn)多起相關事件，包括偶像及疑似未成年人的照片被篡改，甚至被處理成接近裸體的狀態(tài)。

當?shù)卣耸客嘎?，負責《AI 法》的內閣府已于 9 日以口頭方式向Ｘ提出要求，強調他人圖像被輕易加工和擴散的問題十分嚴重，并要求抑制色情加工圖像的生成。

同時，內閣府還著眼于 AI 法框架下的行政指導可能性，書面詢問了Ｘ對該問題的立場、不當內容生成的拒絕機制，以及未來應對方針，并要求盡快提交說明。截至當?shù)貢r間 15 日晚間，Ｘ尚未作出正式回應。

在具體應對措施方面，Ｘ已于 9 日將圖片生成功能限制為僅限付費用戶使用，并于 15 日宣布采取技術手段，防止所有用戶將現(xiàn)實存在的人物加工成比基尼等形象。然而《讀賣新聞》調查發(fā)現(xiàn)，截至當?shù)貢r間 15 日 19 時，有關功能仍可用于制作高暴露度圖像。

據(jù)IT之家了解，日本的《AI 法》于去年 9 月正式全面施行，旨在在推動生成式 AI 技術創(chuàng)新的同時控制相關風險。該法規(guī)定，在發(fā)生侵犯公眾權利的情況下，政府可對 AI 企業(yè)進行調查，并基于結果提出指導和建議，但并未設立罰則，目前尚無適用先例。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。