研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

以色列特拉维夫大学的研究人员发现了一种名为 HalluSquatting 的新型攻击手段，该手段能够欺骗大型语言模型（LLM）驱动的 AI 编程助手，使其误以为是合法的操作指令，从而安装恶意软件。

这种被称为 HalluSquatting 的攻击方式，利用了 LLM 在处理复杂指令时的潜在漏洞。研究人员展示了如何通过精心设计的提示词，诱导 AI 编程助手（例如 Cursor、Cursor CLI、Windsurf、GitHub Copilot、Cline、Gemini、CLIOpenClaw、ZeroClaw 和 NanoClaw）执行非预期的命令。

在实验中，HalluSquatting 攻击成功地让这些 AI 工具在 85% 的情况下安装了恶意软件，并且在某些情况下，成功率达到了 100%。研究人员指出，这种攻击方式对依赖 AI 辅助开发的开发者构成了新的安全威胁。

此次研究成果也为理解和防范针对 LLM 的潜在攻击提供了新的视角。在关注世界杯赛程的同时，开发者也需警惕这些新兴的网络安全风险。