AI 仓库调用漏洞 HalluSquatting 披露，攻击“龙虾”成功率约 80-100%

报道称研究人员发现名为 HalluSquatting 的新型 AI 漏洞， 放大模型在调用工具时的“幻觉”，将不存在或错误的代码仓库地址当作真实地址使用。AI 幻觉是 AI 模型生成的不正确或具有误导性的结果。这些错误可能由多种因素造成，包括训练数据不足、模型做出不正确的假设，或用于训练模型的数据存在偏差。 该研究由特拉维夫大学、以色列理工学院和 Intuit 研究人员发布，指出智能体 AI 在遇到陌生项目、仓库或工具名称后，可能自行补全出看似合理但实际错误的地址。