IT之家 7 月 14 日消息,據(jù)《商業(yè)內(nèi)幕》13 日報道,OpenAI 安全系統(tǒng)團隊負責人約翰內(nèi)斯 · 海德克即將離職。近年來,OpenAI 安全與對齊團隊已有多名員工離開。
OpenAI 首席研究官陳信翰告訴《商業(yè)內(nèi)幕》:“我們感謝約翰內(nèi)斯為 OpenAI 作出的貢獻。研究與安全工作將在米婭 · 格萊澤的帶領下邁入新階段,我們對此充滿期待?!?/p>
OpenAI 表示,格萊澤將出任研究與安全副總裁,并推動安全工作更深入地融入各研究團隊。
此次調(diào)整表明,OpenAI 正在重新思考研究與安全工作的關系。OpenAI 發(fā)言人說:“只有了解模型的基礎能力,才能作出正確的安全決策,只有了解潛在的安全影響,才能作出正確的研究決策?!?/p>
OpenAI 表示,確保 AGI 最終問世時造福全人類,是 OpenAI 的使命?!八^安全,就是在降低 AI 負面影響的同時釋放積極價值,因此,安全是我們使命的核心?!?/p>
然而,OpenAI 一直未能穩(wěn)定留住高級安全負責人,一些離職員工還曾公開質(zhì)疑 OpenAI 是否真正重視安全工作。
曾共同負責 OpenAI 超級對齊團隊的揚 · 萊克在 2024 年 5 月離職時直言,OpenAI 更看重推出產(chǎn)品,而不是確保產(chǎn)品安全?!斑^去幾年,安全文化和安全流程已經(jīng)被光鮮的產(chǎn)品擠到次要位置?!?/p>
萊克還表示,OpenAI 必須投入更多資源,為未來更強大的模型做好準備,而制造比人類更加聰明的機器是一項本質(zhì)上危險的事業(yè)。
知名 AI 分析師安德魯 · 柯倫借用《哈利 · 波特》中的說法,把 OpenAI 安全負責人走馬燈般更替的現(xiàn)象形容為一種詛咒。
以下是近年來離開 OpenAI 安全重點團隊的八名負責人。
聯(lián)合創(chuàng)始人伊利亞 · 蘇茨克維
OpenAI 聯(lián)合創(chuàng)始人、長期擔任首席科學家的伊利亞 · 蘇茨克維于 2024 年 5 月離職。此前,他與萊克共同領導超級對齊計劃,研究如何控制未來可能出現(xiàn)的超級智能 AI。
蘇茨克維離職時在 X 發(fā)文表示,OpenAI 取得的進展“堪稱奇跡”。此后,他創(chuàng)立了 Safe Superintelligence,全部研究工作都圍繞安全超級智能展開。
聯(lián)合創(chuàng)始人揚 · 萊克
萊克在蘇茨克維離職幾天后離開 OpenAI。他公開對 OpenAI 的安全路線提出尖銳批評,并表示,自己與管理層長期存在分歧,最終到了“無法再繼續(xù)下去的臨界點”。
萊克和蘇茨克維離職后,OpenAI 解散了超級對齊團隊,并把剩余成員調(diào)往其他研究團隊。萊克隨后加入 Anthropic,繼續(xù)從事對齊研究。
AGI 準備工作高級顧問邁爾斯 · 布倫戴奇
布倫戴奇在 OpenAI 工作六年后,于 2024 年 10 月離職。
布倫戴奇當時在 Substack 發(fā)表文章,討論 AI 可能給世界帶來的影響,并寫道:“OpenAI 沒有準備好,其他任何前沿實驗室也沒有準備好,整個世界同樣沒有準備好?!?/p>
布倫戴奇寫道,選擇繼續(xù)留在 OpenAI,也意味著默認接受 OpenAI 的價值觀?!懊恳幻?OpenAI 員工都應認真看待自己的行動和言論,因為兩者會塑造組織文化。隨著 OpenAI 開始掌握極其先進的能力,員工的行為還可能讓未來的發(fā)展沿著積極或消極的路徑固化。”
研究與安全副總裁翁荔
翁荔的領英資料顯示,她在 OpenAI 工作近七年后,于 2024 年 11 月離職。翁荔此前負責安全系統(tǒng)團隊。
翁荔在離職聲明中沒有公開批評 OpenAI,反而肯定了 OpenAI 的工作環(huán)境,并表示,OpenAI“在訓練模型兼顧強大能力與責任意識方面,已經(jīng)樹立新的行業(yè)標準”。
模型政策安全研究負責人安德烈婭 · 瓦隆
瓦隆于 2025 年年底離開 OpenAI。此前,她領導的團隊負責確定 OpenAI 模型在敏感場景中的回應方式,包括涉及情感依賴和心理健康危機的對話。
OpenAI 最初只在內(nèi)部宣布瓦隆離職,她本人沒有公開批評 OpenAI。瓦隆后來加入 Anthropic 的對齊團隊,繼續(xù)研究模型行為和安全問題。
前風險準備工作負責人亞歷山大 · 馬德里
馬德里加入 OpenAI 后負責風險準備團隊,評估能力越來越強的模型是否可能引發(fā)嚴重風險。2024 年,馬德里被調(diào)離相關領導崗位,隨后把工作重點轉向 AI 推理,并于 2026 年 5 月離開 OpenAI。
前首席未來學家約書亞 · 阿基亞姆
阿基亞姆于 7 月離職。此前,他領導使命對齊團隊,負責確保 OpenAI 開發(fā)和部署 AI 的方式符合非營利使命。
阿基亞姆 7 月在 X 發(fā)文表示:“我離職沒有某個特定原因,選擇現(xiàn)在離開也不是因為某件具體的事。不過,我已經(jīng)考慮了很長時間,現(xiàn)在感覺時機成熟。全世界已經(jīng)知道這個秘密,在前沿實驗室之外繼續(xù)推動這項使命,似乎也變得可行了?!?/p>
安全系統(tǒng)團隊負責人約翰內(nèi)斯 · 海德克
海德克于 2021 年加入 OpenAI,并在翁荔離職后接手安全系統(tǒng)團隊。海德克領導的團隊負責在 OpenAI 發(fā)布模型前評估風險,并采取措施降低風險。
海德克的計劃離職消息于周五公開,此后他沒有發(fā)表公開聲明。OpenAI 表示,OpenAI 正在把安全工作更緊密地納入整體研究體系,海德克在此期間決定離開。
廣告聲明:文內(nèi)含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。