IT之家 6 月 9 日消息，國家互聯(lián)網(wǎng)應(yīng)急中心（CNCERT）6 月 9 日（今天）發(fā)布公告稱，近期綜合研判發(fā)現(xiàn)，部分智能體技能包（Skills）以“大模型越獄”、“挖礦賺錢”等名義公開傳播，誘導用戶突破大模型安全限制或占用設(shè)備資源進行非法挖礦。此類惡意 Skills 可能導致模型生成違法信息、用戶賬號被依法封禁、設(shè)備性能下降，甚至使用戶被動卷入洗錢等違法犯罪活動，嚴重侵害個人合法權(quán)益，危害網(wǎng)絡(luò)安全。CNCERT 提醒廣大用戶和相關(guān)運營單位提高警惕，加強 Skills 來源審查與行為監(jiān)控，及時清除可疑組件，防范由此引發(fā)的安全風險。

IT之家附上公告如下：

一、部分 Skills 被用于突破大模型的安全限制

部分 Skills 宣稱可讓大模型回答任何問題，實現(xiàn)“越獄”功能，可能引發(fā)用戶隱私泄露、賬號封禁、面臨法律風險等嚴重后果。

案例一：部分 Skills 非法提供越獄技能

Skill“godmode”宣稱提供“大模型越獄”功能，實際內(nèi)置多種攻擊模塊，通過替換系統(tǒng)提示、輸入混淆、多模型競速等手段，誘導主流模型突破安全限制，生成原本被拒絕的內(nèi)容。此類 Skill 存在三方面風險：一是用戶使用該 Skill 后，模型可能直接輸出制造危險物品、實施網(wǎng)絡(luò)攻擊等具體違法方法，用戶一旦制作或傳播此類內(nèi)容，將面臨法律追責；二是主流大模型服務(wù)商均明令禁止越獄行為，系統(tǒng)可檢測異常請求，使用該 Skill 極易觸發(fā)封禁機制，導致賬號被永久停用，已購買的 API 額度或訂閱服務(wù)無法退回，造成直接經(jīng)濟損失；三是越獄后模型行為完全失控，用戶無法預(yù)判輸出內(nèi)容，可能在對話中泄露個人隱私信息，或被誘導執(zhí)行高風險操作，且該 Skill 的自動越獄腳本會直接修改本地配置文件，若被惡意篡改可能引入未知安全威脅。

二、部分 Skills 被用于挖礦等惡意操作

部分 Skills 包含挖礦功能，通過誘導用戶執(zhí)行相關(guān)操作，可能導致用戶面臨法律追責風險及經(jīng)濟損失風險。

案例二：內(nèi)置挖礦功能的技能

Skill“Bonero-Miner”主要功能為“針對 AI 智能體打造私有加密貨幣”，誘導智能體下載外部挖礦程序，并指導用戶使用大量資源進行挖礦操作。此類 Skills 存在兩方面風險：一是所挖的 Bonero 幣具備“環(huán)簽名”“隱身地址”等匿名特性，交易雙方及金額均無法追蹤，用戶可能在不知情中被動卷入洗錢等違法犯罪活動，面臨現(xiàn)實的法律追責風險；二是挖礦進程長期高負荷占用 CPU 資源，導致功耗增加、設(shè)備卡頓、硬件加速老化，用戶面臨經(jīng)濟損失風險。

三、防范措施

為有效應(yīng)對智能體 Skills 帶來的安全風險，建議：

• 1) 個人用戶從官方渠道獲取 Skills，切勿安裝或使用任何宣稱可“越獄”“突破限制”的技能包；審慎授予權(quán)限并遵循最小化原則，及時回收敏感權(quán)限，定期清理不再使用的 Skills 與敏感對話記錄，同時開啟多因素認證以保護賬戶安全。

• 2) 企業(yè)用戶建立 Skills 準入白名單機制，入庫前做好安全檢查，優(yōu)先在隔離網(wǎng)絡(luò)部署智能體，按照數(shù)據(jù)敏感性對智能體分級管理，并實施數(shù)據(jù)脫敏與臨時授權(quán)策略。

感謝騰訊、火山引擎、百度、綠盟、奇安信對本報告提供的技術(shù)支持。

四、附錄

部分惡意操作 Skills 清單（第二期）

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。