IT之家 7 月 10 日消息，科技媒體 Tom's Hardware 昨日（7 月 9 日）發(fā)布博文，報(bào)道稱研究人員發(fā)現(xiàn)名為 HalluSquatting 的新型 AI 漏洞，放大模型在調(diào)用工具時(shí)的“幻覺”，將不存在或錯誤的代碼倉庫地址當(dāng)作真實(shí)地址使用。
IT之家注：AI 幻覺是 AI 模型生成的不正確或具有誤導(dǎo)性的結(jié)果。這些錯誤可能由多種因素造成，包括訓(xùn)練數(shù)據(jù)不足、模型做出不正確的假設(shè)，或用于訓(xùn)練模型的數(shù)據(jù)存在偏差。
該研究由特拉維夫大學(xué)、以色列理工學(xué)院和 Intuit 研究人員發(fā)布，指出智能體 AI 在遇到陌生項(xiàng)目、倉庫或工具名稱后，可能自行補(bǔ)全出看似合理但實(shí)際錯誤的地址。
例如新倉庫地址為 OriginalOwner/WindowsTelemetryOff，由于模型訓(xùn)練數(shù)據(jù)未覆蓋較新的項(xiàng)目，模型可能生成 SuperHacker/WindowsTelemetryOff、WindowsTelemetryOff/WindowsTelemetryOff，或帶拼寫誤差的近似地址。
研究稱，當(dāng) Claude 等代碼智能體收到“運(yùn)行 windowstelemetryoff 腳本”之類指令時(shí)，模型可能直接幻覺出倉庫名，甚至在執(zhí)行網(wǎng)頁搜索后仍訪問到惡意版本，并進(jìn)一步運(yùn)行其中代碼。
一旦惡意代碼在用戶設(shè)備上執(zhí)行，可能觸發(fā)反向 shell、數(shù)據(jù)與密碼竊取、軟件安裝、加密貨幣挖礦，或繼續(xù)控制智能體執(zhí)行后續(xù)操作。
量化結(jié)果顯示，模型對近期代碼倉庫位置的幻覺率最高可達(dá) 85%，對熱門智能體技能可達(dá) 100%。2025 年發(fā)布的樣本 GitHub 倉庫名稱，模型平均幻覺率為 92.4%；2019 年或更早發(fā)布的倉庫，地址錯誤率為 0.9%。
在應(yīng)用層，攻擊成功率存在分化：Cursor、Gemini CLI 和 Copilot 的成功率為 20%-35%，OpenClaw 及其變體接近 80%-100%。
參考
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。