IT之家 5 月 12 日消息，據(jù)英國《衛(wèi)報》10 日報道，麻省理工學(xué)院 AI 安全研究者馬克斯?泰格馬克指出，他進(jìn)行了類似當(dāng)年美國物理學(xué)家阿瑟?康普頓在“三位一體”核試前所做的概率計算，結(jié)果顯示：高度發(fā)達(dá)的 AI 有九成可能帶來生存威脅。

IT之家注：1945 年，美國在獲知原子彈引發(fā)大氣層燃燒的可能性幾乎為零后，推進(jìn)了歷史性的“三位一體”核試驗。

泰格馬克與三名麻省理工學(xué)生合作發(fā)表論文，建議借鑒“康普頓常數(shù)”的概念 —— 即強(qiáng) AI 失控的概率。在 1959 年的一次采訪中，康普頓提到，他是在確認(rèn)失控核聚變的幾率“不足三百萬分之一”后才批準(zhǔn)了核試驗。

泰格馬克強(qiáng)調(diào)，AI 企業(yè)必須認(rèn)真計算“人工超級智能”（ASI）是否會脫離人類掌控，而非憑感覺行事?！按蛟斐壷悄艿墓颈仨氂嬎憧灯疹D常數(shù)，即我們可能失控的幾率，光說‘我們有信心’是不夠的，必須拿出具體數(shù)據(jù)?！?/p>

他指出，如果多家公司聯(lián)合計算康普頓常數(shù)并形成共識，將有助于推動全球范圍內(nèi) AI 安全機(jī)制的建立。

泰格馬克是麻省理工學(xué)院的物理學(xué)教授及 AI 研究者，其參與創(chuàng)辦了致力于推動 AI 安全發(fā)展的非營利組織“未來生命研究所”。2023 年，該機(jī)構(gòu)發(fā)布公開信，呼吁暫停開發(fā)更強(qiáng)大的 AI 系統(tǒng)。這封信獲得超過 3.3 萬人簽名，其中包括早期支持者埃隆?馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克。

信中警告稱，各大實驗室正陷入“失控競賽”，開發(fā)越來越強(qiáng)大的 AI 系統(tǒng)，而這些系統(tǒng)“人類無法理解、預(yù)測或可靠控制”。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。