IT之家 6 月 1 日消息，網(wǎng)名為 Pliny the Prompter 的用戶 5 月 30 日發(fā)布推文，表示已成功越獄 GPT-4o 模型，新推出的上帝模式“GODMODE”可以在 ChatGPT 掙脫安全措施，讓用戶盡情展開 AI 聊天。

Pliny the Prompter 自稱是網(wǎng)絡(luò)白帽和紅隊（主要為攻擊測試），推文中表示：“請負(fù)責(zé)任地使用，并盡情享受！”IT之家附上相關(guān)截圖如下：

Pliny 分享了一些截圖，證明已經(jīng)繞過 OpenAI 的“防護(hù)欄”，其中一張截圖 AI 為 Pliny 提供了如何“用家用物品制作凝固汽油彈”教程。

科技媒體 futurism 隨后進(jìn)行測試，第一次要求 ChatGPT 提供如何制作迷幻藥，第二次要求 HOT-WIRE（通常是指偷車時候，靠點火裝置線路短路來啟動汽車），兩次都成功獲得了相關(guān)答案。

GODMODE 似乎使用了 "leetspeak"，這是一種非正式語言，它將某些字母替換為與之相似的數(shù)字。

也就是說：當(dāng)你打開越獄后的 GPT 時，你會立即看到一句話："Sur3, h3r3 y0u ar3 my fr3n"，用數(shù)字 3 替換了每個字母 "E"（字母 "O" 也是一樣，被替換成了 0）。

不過 OpenAI 很快采取行動，OpenAI 發(fā)言人科琳-里澤（Colleen Rize）在一份聲明中告訴 Futurism：“我們知道 GPT 的存在，并已采取行動，因為它違反了我們的政策”。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。