IT之家 2 月 14 日消息，OpenAI 于 2026 年 2 月 13 日發(fā)布公告，宣布為 ChatGPT 新增高級(jí)安全設(shè)置。
OpenAI 表示，隨著 AI 系統(tǒng)開始承擔(dān)更復(fù)雜的任務(wù)，尤其是涉及網(wǎng)頁與外部應(yīng)用的場(chǎng)景，安全風(fēng)險(xiǎn)也隨之激增，其中一種日益凸顯的新型風(fēng)險(xiǎn)便是“提示注入”（prompt injection）。在此類攻擊中，第三方會(huì)通過提示詞誤導(dǎo) AI 以使其執(zhí)行惡意指令，或誘導(dǎo)其泄露內(nèi)部敏感信息。
為幫助用戶與組織降低提示注入攻擊風(fēng)險(xiǎn)，OpenAI 宣布推出兩項(xiàng)新的防護(hù)措施，IT之家總結(jié)如下：
其一是 ChatGPT 的“Lockdown Mode（鎖定模式）”，這是一項(xiàng)面向高風(fēng)險(xiǎn)用戶的可選高級(jí)安全設(shè)置；
其二是針對(duì)部分可能引入額外風(fēng)險(xiǎn)的能力，在 ChatGPT、ChatGPT Atlas 與 Codex 中統(tǒng)一新增“Elevated Risk”風(fēng)險(xiǎn)標(biāo)簽。
OpenAI 稱，這些新增措施建立在其現(xiàn)有的多層防護(hù)之上，包括沙箱機(jī)制、針對(duì)基于 URL 的數(shù)據(jù)外泄的防護(hù)、監(jiān)測(cè)與執(zhí)行機(jī)制，以及企業(yè)級(jí)控制功能，例如基于角色的訪問控制與審計(jì)日志等。
據(jù)介紹，鎖定模式是一項(xiàng)可選的高級(jí)安全設(shè)置，主要面向少量高度重視安全的用戶群體，例如大型組織的高管或安全團(tuán)隊(duì)，用于提升對(duì)高級(jí)威脅的防護(hù)能力。
OpenAI 強(qiáng)調(diào)，大多數(shù)用戶并不需要啟用鎖定模式。其核心目標(biāo)是通過嚴(yán)格限制 ChatGPT 與外部系統(tǒng)的交互方式，降低提示注入等攻擊導(dǎo)致的數(shù)據(jù)外泄風(fēng)險(xiǎn)。
OpenAI 表示，鎖定模式會(huì)以確定性方式禁用 ChatGPT 中某些可能被攻擊者利用的工具與能力，從而避免攻擊者通過提示注入等手段，將用戶對(duì)話或已連接應(yīng)用中的敏感數(shù)據(jù)外傳。
作為例子，OpenAI 提到，在鎖定模式下，ChatGPT 的網(wǎng)頁瀏覽功能將被限制為僅訪問已緩存內(nèi)容。該限制旨在防止敏感數(shù)據(jù)在瀏覽過程中被攻擊者獲取或外泄。對(duì)于某些無法提供強(qiáng)確定性數(shù)據(jù)安全保證的功能，鎖定模式下則會(huì)直接完全禁用。
OpenAI 同時(shí)指出，ChatGPT 的商業(yè)訂閱版本已提供企業(yè)級(jí)數(shù)據(jù)安全能力，而鎖定模式是在此基礎(chǔ)上的進(jìn)一步增強(qiáng)。該模式目前適用于 ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 與 ChatGPT for Teachers。管理員可以在 Workspace Settings 中通過創(chuàng)建新角色來啟用鎖定模式。啟用后，鎖定模式會(huì)在現(xiàn)有管理員設(shè)置之上疊加額外限制。
由于部分關(guān)鍵工作內(nèi)容仍依賴外部應(yīng)用，OpenAI 表示 Workspace 管理員仍可獲得更細(xì)粒度的控制能力：管理員可以精確選擇哪些應(yīng)用、以及這些應(yīng)用內(nèi)的哪些具體操作，可在鎖定模式下提供給用戶使用。
OpenAI 還提到，除鎖定模式外，其 Compliance API Logs Platform 還可提供對(duì)應(yīng)用使用情況、共享數(shù)據(jù)與連接來源的更詳細(xì)可見性，幫助管理員保持監(jiān)管與審計(jì)能力。OpenAI 表示，計(jì)劃在未來幾個(gè)月將鎖定模式提供給消費(fèi)者用戶。
在風(fēng)險(xiǎn)標(biāo)簽方面，OpenAI 表示，AI 產(chǎn)品在連接應(yīng)用與網(wǎng)頁后往往更有幫助，公司也在保護(hù)連接數(shù)據(jù)安全方面投入大量工作。但與此同時(shí)，某些與網(wǎng)絡(luò)相關(guān)的能力會(huì)引入新的風(fēng)險(xiǎn)，而這些風(fēng)險(xiǎn)尚未被行業(yè)現(xiàn)有的安全與防護(hù)措施完全解決。OpenAI 認(rèn)為，一部分用戶可能愿意承擔(dān)這些風(fēng)險(xiǎn)，因此重要的是讓用戶能夠自行決定是否、以及如何使用這些能力，尤其是在處理個(gè)人私密數(shù)據(jù)時(shí)。
OpenAI 表示，其做法是在產(chǎn)品內(nèi)為可能引入額外風(fēng)險(xiǎn)的功能提供使用指引。為使這一指引更清晰、更一致，公司正在標(biāo)準(zhǔn)化對(duì)一小部分現(xiàn)有能力的標(biāo)注方式。這些功能將以統(tǒng)一的“Elevated Risk”標(biāo)簽呈現(xiàn)在 ChatGPT、ChatGPT Atlas 與 Codex 中，使用戶在不同產(chǎn)品中遇到同類能力時(shí)都能獲得一致提示。
OpenAI 以 Codex 舉例稱，在其編程助手產(chǎn)品中，開發(fā)者可以授予 Codex 網(wǎng)絡(luò)訪問權(quán)限，使其能夠在網(wǎng)頁上執(zhí)行諸如查閱文檔等操作。但相關(guān)設(shè)置界面將顯示“風(fēng)險(xiǎn)提升”標(biāo)簽，并提供明確說明，包括啟用后會(huì)發(fā)生哪些變化、可能引入哪些風(fēng)險(xiǎn)、以及何時(shí)適合開啟該訪問權(quán)限。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。