IT之家 7 月 26 日消息，據(jù)澎湃新聞報(bào)道，7 月 25 日，杰弗里?辛頓、姚期智、約書亞?本吉奧、斯圖爾特、羅素等 20 余名行業(yè)專家、學(xué)者共同簽署的 AI 安全國際對(duì)話上海共識(shí)（IT之家注：下文簡(jiǎn)稱“上海共識(shí)”）正式對(duì)外公開。
“上海共識(shí)”指出，當(dāng)前人類正處于一個(gè)關(guān)鍵轉(zhuǎn)折點(diǎn)：AI 系統(tǒng)正迅速接近并可能超越人類智能水平。這些未來的系統(tǒng)可能在操作者毫不知情的情況下，執(zhí)行并非操作者所期望或預(yù)測(cè)的行動(dòng)。這可能導(dǎo)致失控，即一個(gè)或多個(gè)通用 AI 系統(tǒng)脫離任何人的控制，從而帶來災(zāi)難性甚至是生存層面的風(fēng)險(xiǎn)。
當(dāng)前，對(duì)于能夠在更高級(jí)的通用 AI 超越人類智能水平后，仍可靠地確保其對(duì)齊，并保持人類的有效控制尚無可行方法。
為防范與糾正此類行為的技術(shù)路徑與治理機(jī)制，“上海共識(shí)”提出應(yīng)對(duì)策略，并呼吁采取三項(xiàng)關(guān)鍵行動(dòng)：要求前沿 AI 開發(fā)者提供安全保障、通過加強(qiáng)國際協(xié)調(diào)，共同確立并恪守可驗(yàn)證的全球性行為紅線、投資基于設(shè)計(jì)的安全 AI 研究。
“上海共識(shí)”還呼吁國際社會(huì)需要合作劃出 AI 開發(fā)不可逾越的“紅線”，應(yīng)聚焦于 AI 系統(tǒng)的行為表現(xiàn)，需同時(shí)考量系統(tǒng)執(zhí)行特定行為的能力及其采取該行為的傾向性。為落實(shí)這些紅線，各國應(yīng)建立一個(gè)具備技術(shù)能力、具有國際包容性的協(xié)調(diào)機(jī)構(gòu)，匯聚各國 AI 安全主管機(jī)構(gòu)，以共享風(fēng)險(xiǎn)相關(guān)信息，并推動(dòng)評(píng)估規(guī)程與驗(yàn)證方法的標(biāo)準(zhǔn)化。
另據(jù)新浪科技，在今天開幕的 2025 世界 AI 大會(huì)上，圖靈獎(jiǎng)得主、中國科學(xué)院院士、上海期智研究院院長姚期智表示，“AI 快速發(fā)展但是只掌握在少數(shù)國家、少數(shù)公司手中，如何才能確保 AI 發(fā)展中不會(huì)出現(xiàn)我們擔(dān)憂的數(shù)字鴻溝問題，這是個(gè)很值得討論的問題。”
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。