IT之家 7 月 26 日消息，據(jù)澎湃新聞報道，7 月 25 日，杰弗里?辛頓、姚期智、約書亞?本吉奧、斯圖爾特、羅素等 20 余名行業(yè)專家、學(xué)者共同簽署的 AI 安全國際對話上海共識（IT之家注：下文簡稱“上海共識”）正式對外公開。
“上海共識”指出，當(dāng)前人類正處于一個關(guān)鍵轉(zhuǎn)折點：AI 系統(tǒng)正迅速接近并可能超越人類智能水平。這些未來的系統(tǒng)可能在操作者毫不知情的情況下，執(zhí)行并非操作者所期望或預(yù)測的行動。這可能導(dǎo)致失控，即一個或多個通用 AI 系統(tǒng)脫離任何人的控制，從而帶來災(zāi)難性甚至是生存層面的風(fēng)險。
當(dāng)前，對于能夠在更高級的通用 AI 超越人類智能水平后，仍可靠地確保其對齊，并保持人類的有效控制尚無可行方法。
為防范與糾正此類行為的技術(shù)路徑與治理機制，“上海共識”提出應(yīng)對策略，并呼吁采取三項關(guān)鍵行動：要求前沿 AI 開發(fā)者提供安全保障、通過加強國際協(xié)調(diào)，共同確立并恪守可驗證的全球性行為紅線、投資基于設(shè)計的安全 AI 研究。
“上海共識”還呼吁國際社會需要合作劃出 AI 開發(fā)不可逾越的“紅線”，應(yīng)聚焦于 AI 系統(tǒng)的行為表現(xiàn)，需同時考量系統(tǒng)執(zhí)行特定行為的能力及其采取該行為的傾向性。為落實這些紅線，各國應(yīng)建立一個具備技術(shù)能力、具有國際包容性的協(xié)調(diào)機構(gòu)，匯聚各國 AI 安全主管機構(gòu)，以共享風(fēng)險相關(guān)信息，并推動評估規(guī)程與驗證方法的標(biāo)準(zhǔn)化。
另據(jù)新浪科技，在今天開幕的 2025 世界 AI 大會上，圖靈獎得主、中國科學(xué)院院士、上海期智研究院院長姚期智表示，“AI 快速發(fā)展但是只掌握在少數(shù)國家、少數(shù)公司手中，如何才能確保 AI 發(fā)展中不會出現(xiàn)我們擔(dān)憂的數(shù)字鴻溝問題，這是個很值得討論的問題?！?/p>
相關(guān)閱讀：
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。