IT之家 7 月 2 日消息，聯(lián)合國官網(wǎng) 1 日公報，由 40 名頂尖科學(xué)家和專家組成的聯(lián)合國 AI 獨立科學(xué)小組發(fā)布首份報告，警告 AI 快速發(fā)展在為全球各國和民眾創(chuàng)造巨大機(jī)遇的同時，也帶來了不容忽視的風(fēng)險。

報告指出，政策制定者需要以科學(xué)證據(jù)為基礎(chǔ)治理 AI，AI 能力的進(jìn)步速度已經(jīng)超過科學(xué)界的認(rèn)知，也超過各國政府調(diào)整政策的速度。面對高度自主的 AI 系統(tǒng)，目前可用的控制手段仍然很少。

小組聯(lián)合主席約書亞 · 本吉奧指出，越來越多證據(jù)表明 AI 可能出現(xiàn)欺騙行為。隨著 AI 能力繼續(xù)增強(qiáng)，科學(xué)界無法保證 AI 不會“自行或因惡意使用者”造成災(zāi)難性后果。

IT之家獲悉，報告總結(jié)稱，AI 的潛在益處十分巨大。如果不加約束地迅速擴(kuò)大部署規(guī)模，也會產(chǎn)生重大風(fēng)險，包括損害用戶心理健康、被用作破壞性工具、沖擊社會、經(jīng)濟(jì)和環(huán)境系統(tǒng)，以及增加技術(shù)失控的可能性。

AI 已在全球各國和多個行業(yè)加速普及，但不同地區(qū)的發(fā)展差距明顯。目前，全球每周使用對話式 AI 的人數(shù)已經(jīng)超過 10 億，發(fā)展中國家的普及速度卻相對滯后。

AI 研發(fā)資源的集中程度更加突出。全球算力最強(qiáng)的 500 臺 AI 超級計算機(jī)中，美國掌握 75% 的算力，中國占 15%。

此外，全球使用的語言超過 7000 種，現(xiàn)有 AI 模型只覆蓋其中很少一部分。部分語言的機(jī)器翻譯存在大量錯誤，甚至可能干擾醫(yī)療診斷和治療決策。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。