IT之家 7 月 11 日消息，紐約時報昨日（7 月 10 日）發(fā)布博文，報道稱 AI 生成的兒童性剝削材料（CSAM）正在互聯(lián)網(wǎng)上泛濫。

互聯(lián)網(wǎng)觀察基金會（IWF）和美國失蹤與被剝削兒童國家中心的研究人員發(fā)出警告，這種新型 AI 生成的 CSAM 幾乎與真實內(nèi)容難以區(qū)分。

IWF 報告指出在 2024 年上半年，僅發(fā)現(xiàn) 2 個 AI 生成的 CSAM 內(nèi)容，而在 2025 年上半年，發(fā)現(xiàn)了 1286 個 AI 生成視頻，而且這些生成的視頻具備很高質(zhì)量，很難與真實內(nèi)容區(qū)分。IT之家附上截圖如下：

美國失蹤與被剝削兒童國家中心也證實了這一數(shù)據(jù)，今年上半年收到了 485000 份關(guān)于 AI 生成 CSAM 的報告，而 2024 年全年僅為 67000 份。

互聯(lián)網(wǎng)觀察基金會的臨時首席執(zhí)行官德里克?雷-希爾表示：“這是一個警示信號。我們正面臨一場真正的海嘯?！彪S著技術(shù)的不斷進(jìn)步，這些視頻和圖片變得越發(fā)逼真。

這些內(nèi)容通常通過暗網(wǎng)進(jìn)行傳播，讓執(zhí)法機(jī)構(gòu)難以追蹤犯罪者。值得注意的是，AI 圖像生成器的工作原理是使用真實的圖像和視頻進(jìn)行訓(xùn)練。

《紐約時報》指出，這些新出現(xiàn)的 AI 生成內(nèi)容中，有很大一部分是重新利用真實 CSAM 內(nèi)容訓(xùn)練而來的，有些材料甚至使用了從學(xué)校網(wǎng)站和社交媒體上抓取的兒童真實照片。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。