新型 AI 漏洞 HalluSquatting 利用模型幻觉劫持代码仓库

来自特拉维夫大学、以色列理工学院和 Intuit 的研究人员发现了一种名为 HalluSquatting 的新型 AI 漏洞，该漏洞放大 AI 模型在调用工具时的“幻觉”，将不存在或错误的代码仓库地址当作真实地址使用。AI 幻觉指模型生成不正确或误导性结果的现象，可能由训练数据不足或偏差导致。

当 Claude 等代码智能体收到如“运行 windowstelemetryoff 脚本”的指令时，模型可能因不熟悉新项目而自行补全出看似合理但实际错误的仓库地址，例如将新仓库地址误认为恶意版本。即使执行网页搜索，模型仍可能访问恶意仓库并运行其中代码，导致反向 shell、数据窃取、加密货币挖矿等严重后果。

量化结果显示，模型对近期代码仓库位置的幻觉率最高可达 85%，对热门智能体技能可达 100%。2025 年发布的样本 GitHub 仓库名称，模型平均幻觉率为 92.4%；2019 年或更早发布的仓库，地址错误率仅为 0.9%。在应用层，攻击成功率存在分化：Cursor、Gemini CLI 和 Copilot 的成功率为 20%-35%，OpenClaw 及其变体接近 80%-100%。