您现在可以收听福克斯新闻文章！您请一个人工智能助手下载一个流行的软件工具。它自信地找到该项目，检索文件并开始设置所有内容。问题是，AI找到了错误的项目。这个错误听起来像是另一个令人沮丧的AI幻觉。然而，研究人员展示了攻击者如何将错误答案转变为恶意软件交付系统。该技术被称为HalluSquatting。它针对能够浏览互联网、检索软件和在您的计算机上运行命令的AI工具。攻击者可以利用它窃取敏感信息或悄悄地将您的设备招入僵尸网络，一个由远程控制的感染设备组成的网络。在最近的一篇研究论文中，特拉维夫大学、以色列理工学院和Intuit的研究人员详细介绍了HalluSquatting，并测试了它针对流行的AI编程工具和个人助手。以下是攻击如何工作以及您可以在AI助手下载错误文件之前采取的措施。免费视频课程：厌倦垃圾邮件？与我们一起加入7月22日的课程。加入我们，7月22日，东部时间下午1点参加免费的CyberGuy Live课程，帮助您减少机器人电话、垃圾短信、垃圾邮件和其他不必要的消息。Kurt "CyberGuy" Knutsson将逐步向您展示过滤垃圾邮件、清理收件箱和识别可能危害您个人信息的消息的简单方法。无需技术经验。您还将获得我们的垃圾邮件停止检查表，每位注册者都会在课程结束后收到课程录音的链接。立即在CyberGuyLive.com预定您的免费名额。黑客威胁在突破全国主要大学平台后泄露2.75亿用户的数据。AI助手可以虚构一个可信的软件地址，直接引导您进入攻击者控制的存储库。（Photo by Donato Fasano/Getty Images）什么是HalluSquatting AI攻击？AI幻觉发生在模型虚构信息并表示其准确时。这可能是一个虚假的统计数据或一个从未存在的软件项目。HalluSquatting专注于虚假的软件资源。AI编程助手有时需要完整的在线地址来访问软件存储库。然而，您可能只提供助手一个项目名称。然后，AI必须确定谁拥有该项目以及官方文件存储在哪里。当它不知道答案时，它可能会猜测。攻击者可以反复要求AI模型找到一个流行或趋势的项目。这个过程可能会揭示模型经常虚构的虚假存储库名称。然后，攻击者可以在其他人之前注册其中一个名称。因此，AI的虚构项目变成了一个真正的在线陷阱。HalluSquatting AI攻击如何工作首先，攻击者识别一个获得关注的软件项目或AI技能。较新的资源可能会创造更大的机会，因为AI模型可能对它们缺乏可靠的信息。接下来，攻击者研究不同的AI模型在被要求定位该资源时的反应。研究人员发现，模型可以在不同的提示中重复相同的虚假名称。然后，攻击者使用其中一个虚构的名称创建一个存储库、软件包或AI技能。恶意指令可以放在其文件、设置脚本或文档中。之后，您请您的AI助手检索真实项目。相反，助手虚构了攻击者控制的名称并下载了这些文件。然后，助手可能会按照其分配的任务读取隐藏的指令。如果助手可以访问终端，它也可以运行攻击者的命令。这些命令可能下载更多软件或搜索存储在计算机上的文件。令人不安的是，您可能从未输入错误的名称。AI创建了这个错误并然后对其采取行动。AI聊天机器人因左翼偏见而受到批评：‘不再被视为中立’。当AI代理可以下载文件并在没有严格监督的情况下运行终端命令时，HalluSquatting变得更加危险。（Kurt "CyberGuy" Knutsson）为什么AI代理使HalluSquatting更危险与基本聊天机器人不同，自主AI代理可以代表您采取行动，包括浏览网站和运行命令。一个普通的聊天机器人可能给您一个损坏的链接。您点击它，发现它无处可去并关闭页面。AI代理可以走得更远。代理AI工具可以下载文件、安装软件和操作计算机终端。这些能力使其工具变得有用。然而，它们也使提示注入攻击在代理执行恶意指令时更具威力。研究人员显示，Squatted资源中的恶意指令可能触发远程工具执行或远程代码执行。换句话说，AI助手可能会在其操作的计算机上运行攻击者的命令。潜在的损害在很大程度上取决于助手的权限。拥有广泛文件访问权限的代理会创造一个恶意环境。