IT之家 7 月 6 日消息，中央網(wǎng)信辦今日發(fā)文稱，“清朗 · 整治 AI 應(yīng)用亂象”專項(xiàng)行動自 2026 年 4 月啟動以來，中央網(wǎng)信辦聚焦未按規(guī)定履行大模型備案登記義務(wù)、AI 平臺安全和審核過濾能力不足、AI 數(shù)據(jù)投毒、生成合成內(nèi)容標(biāo)識落實(shí)不到位等 AI 應(yīng)用亂象，部署各地網(wǎng)信部門深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，并開設(shè)“涉 AI 應(yīng)用亂象舉報(bào)專區(qū)”，專項(xiàng)受理公眾舉報(bào)。
在各方共同努力下，第一階段累計(jì)處置違規(guī)網(wǎng)站、應(yīng)用程序、智能體等 AI 產(chǎn)品 1.4 萬余款，清理違法違規(guī)信息 600 余萬條，處置賬號 2.6 萬余個(gè)，下架違規(guī) AI 商品 1300 余個(gè)、違規(guī)開源數(shù)據(jù)集 9 個(gè)，各項(xiàng)工作取得積極進(jìn)展。
各地網(wǎng)信部門認(rèn)真履行屬地管理責(zé)任，結(jié)合實(shí)際采取有效監(jiān)督管理措施。如：
北京網(wǎng)信辦建立“平臺自查 + 常態(tài)巡查 + 技術(shù)篩查 + 線索核查”聯(lián)動工作機(jī)制，及時(shí)下架一批違規(guī) AI 應(yīng)用和運(yùn)營賬號。
上海網(wǎng)信辦針對平臺類型細(xì)化工作要求，指導(dǎo)平臺升級舉報(bào)機(jī)制、主動發(fā)布治理公告。
浙江網(wǎng)信辦從模型審核能力、訓(xùn)練語料安全、AI 數(shù)據(jù)投毒等多維度，組織開展優(yōu)化語義判斷能力、高頻回歸測試等針對性整改。
江蘇網(wǎng)信辦開設(shè) AI 應(yīng)用亂象專項(xiàng)舉報(bào)窗口，收集 AI 數(shù)據(jù)投毒、未落實(shí)生成合成內(nèi)容標(biāo)識要求等 5 類違法違規(guī)情形舉報(bào)線索，及時(shí)核實(shí)處置。
廣東網(wǎng)信辦建立屬地多部門協(xié)調(diào)監(jiān)管機(jī)制，綜合運(yùn)用技術(shù)巡查、人工復(fù)核、現(xiàn)場督導(dǎo)、約談懲戒方式開展 AI 應(yīng)用亂象全鏈條治理等。
重點(diǎn)網(wǎng)站平臺積極履行主體管理責(zé)任，有針對性地加強(qiáng)管控。如：
華為在應(yīng)用商店中增加生成式人工智能服務(wù)備案和標(biāo)識專項(xiàng)審核；
阿里巴巴完善數(shù)字指紋比對與關(guān)鍵詞攔截機(jī)制，提升違法違規(guī)內(nèi)容識別精度；
智譜構(gòu)建多模態(tài)審核模型，針對多輪對話意圖反轉(zhuǎn)等復(fù)雜場景開展交叉復(fù)核；
稀宇及時(shí)識別阻斷利用 AI 編寫病毒、釣魚軟件等惡意行為；
DeepSeek 在數(shù)據(jù)采集和預(yù)處理環(huán)節(jié)嵌入異常檢測算法，防止惡意樣本隱蔽操控等。
IT之家從公告獲悉，下一步，中央網(wǎng)信辦將聚焦利用 AI 技術(shù)制作發(fā)布虛假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人權(quán)益、從事網(wǎng)絡(luò)水軍活動等突出問題，開展“清朗 · 整治 AI 應(yīng)用亂象”專項(xiàng)行動第二階段工作，加大違規(guī)賬號和機(jī)構(gòu)查處力度，加強(qiáng) AI 應(yīng)用重點(diǎn)環(huán)節(jié)管理，督促平臺提升 AI 防治能力，著力維護(hù)清朗網(wǎng)絡(luò)生態(tài)，推動人工智能向善向好。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。