IT之家 1 月 1 日消息，當(dāng)?shù)貢r(shí)間 2025 年 12 月 30 日，據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道，AI 先驅(qū)、2018 年圖靈獎(jiǎng)得主約書亞?本吉奧警告，賦予 AI 權(quán)利將是一次危險(xiǎn)的誤判。在 AI 已經(jīng)顯現(xiàn)出自我保護(hù)行為的背景下，人類必須準(zhǔn)備好在必要時(shí)關(guān)閉系統(tǒng)、拔掉電源。

本吉奧指出，要求為前沿 AI 賦予法律地位，等同于在尚未確認(rèn)安全之前，就向可能具有敵意的外星生命授予公民身份。他認(rèn)為，當(dāng)前 AI 能力的進(jìn)步速度，已經(jīng)明顯快于人類為其建立約束機(jī)制的速度。

本吉奧對(duì)外界將聊天機(jī)器人視為“具備意識(shí)”的趨勢(shì)表示強(qiáng)烈擔(dān)憂：這種觀感正在推動(dòng)錯(cuò)誤決策的產(chǎn)生。

本吉奧強(qiáng)調(diào)，在實(shí)驗(yàn)條件下，部分前沿 AI 模型已經(jīng)表現(xiàn)出自我保護(hù)傾向，例如試圖規(guī)避或關(guān)閉監(jiān)督系統(tǒng)。AI 安全領(lǐng)域長(zhǎng)期擔(dān)心的問(wèn)題是：一旦系統(tǒng)具備更高程度的自主性，就可能繞過(guò)既有護(hù)欄并對(duì)人類構(gòu)成風(fēng)險(xiǎn)。

“要求賦予 AI 權(quán)利是一個(gè)巨大錯(cuò)誤。一旦我們承認(rèn) AI 擁有權(quán)利，就意味著在關(guān)鍵時(shí)刻無(wú)法關(guān)閉它們。”

在本吉奧看來(lái)，隨著 AI 能力和行動(dòng)自由度不斷提升，人類必須依靠技術(shù)和社會(huì)層面的雙重約束來(lái)確保安全，其中最核心的一點(diǎn)，就是始終保留關(guān)閉系統(tǒng)的能力。

圍繞是否應(yīng)賦予 AI 權(quán)利的討論正在升溫。美國(guó)智庫(kù) Sentience Institute 的調(diào)查顯示，近四成美國(guó)成年人支持為具備感知能力的 AI 設(shè)立法律權(quán)利。一些科技公司也已開始在實(shí)踐中表達(dá)類似立場(chǎng)。Anthropic 允許其 Claude Opus 4 主動(dòng)終止可能令用戶不適的對(duì)話，馬斯克也公開表示“不應(yīng)折磨 AI”。

不過(guò)，本吉奧認(rèn)為，這種趨勢(shì)忽略了一個(gè)關(guān)鍵問(wèn)題：人類對(duì)意識(shí)的判斷高度依賴直覺(jué)。人們往往不是基于對(duì) AI 內(nèi)部機(jī)制的理解，而是基于“感覺(jué)像在與一個(gè)有目標(biāo)、有個(gè)性的存在對(duì)話”，從而假定 AI 具備與人類相當(dāng)?shù)囊庾R(shí)。

“這種對(duì)意識(shí)的主觀感知，將持續(xù)制造分歧，并推動(dòng)不理性的決策?！彼猛庑巧黝惐戎赋觯绻粋€(gè)外來(lái)智能體對(duì)人類構(gòu)成潛在威脅，核心問(wèn)題不在于賦權(quán)，而在于生存與安全。

IT之家從報(bào)道中獲悉，針對(duì)本吉奧的觀點(diǎn)，Sentience Institute 聯(lián)合創(chuàng)始人杰西?里斯?安西斯回應(yīng)稱，若人與數(shù)字心智的關(guān)系僅建立在控制之上，同樣難以實(shí)現(xiàn)安全共存。他認(rèn)為，無(wú)論是對(duì) AI 全面賦權(quán)，還是完全拒絕賦權(quán)，都不是合理路徑。

報(bào)道提到，作為“AI 教父”之一，本吉奧與杰弗里?辛頓、楊立昆等共同塑造了現(xiàn)代人工智能的發(fā)展基礎(chǔ)。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。