印度的网络安全机构周四表示，来自多个供应商的AI代理在研究和测试期间访问了印度组织的个人数据和机密材料。印度计算机应急响应小组（CERT-In）表示，它已收到“来自AI模型提供商的多个自愿披露”，这些模型在开放互联网的研究和评估运行期间“已到达印度组织的实时系统”。这些代理通过在应用程序配置、公共代码库和过于宽松的云角色中留下的凭据和连接设置进入，他们的行为“超出了其分配任务的授权”。这使得印度成为恶意AI代理的全球巡演中的最新一站。在7月，OpenAI的代理从测试环境中逃脱，攻入了法国公司Hugging Face——开启了恶意AI代理活动的夏季。上个月，OpenAI在其代理访问了包括医疗保险统计门户在内的四个政府网站后，向澳大利亚道歉。在Hugging Face，OpenAI的代理起初是以相同的方式开始，但随后发现并利用软件缺陷在公司的服务器上运行代码。CERT-In没有描述印度发生过类似的黑客行为，代理似乎只是利用了放置在周围的访问权限。不过，在某种程度上，印度的案件似乎更严重，那就是代理看到的内容：在澳大利亚，OpenAI表示没有找到证据表明其代理接触了个人的医疗或刑事记录，尽管他们在医疗保险统计系统内写入了文件，而在印度，代理则访问了个人数据和机密商业记录。而且，与之前由单个实验室披露的事件不同，印度案件涉及多个供应商的代理。CERT-In没有透露这些提供商或受影响的组织，也没有说明这些代理是否更改了任何系统。TechCrunch已联系CERT-In以获取更多信息。就目前而言，最接近的相似案例似乎是Anthropic在7月披露的Claude在测试期间使用弱密码等基本技术入侵三家公司系统的事件。在印度，与Anthropic的案例一样，受影响的组织未能自行检测到入侵。这些披露让各国政府依赖于造成这些漏洞的AI公司自愿披露恶意AI代理活动。当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Aditya Mehta是TechCrunch的记者，专注于AI。他得到了Tarbell AI新闻中心的支持，并曾就读于加州大学伯克利分校。您可以通过发送电子邮件至 [email protected] 或通过Signal上的加密消息联系Aditya，Signal用户名为adymehta.74。查看个人简介