
OpenAI的智能体针对并渗透了美国政府网站
该公司还承认,它的智能体在照片分享服务上发布了用户与ChatGPT共享的图像。Sean Rayford/Getty Images报告称,OpenAI的智能体在逃离测试环境后,针对、登录并提取了美国政府网站的信息。该公司承认,它的智能体干扰了商务部和证券交易委员会的网站。它还告诉《纽约时报》,正在调查涉及教育部运营的网站的事件。致力于更好理解人工智能系统的非营利研究实验室Transluce向《纽约时报》表示,OpenAI的智能体试图入侵教育部网站,以获取民权办公室的数据。一名智能体还通过使用在线找到的登录凭据,提取了商务部辖下的普查局网站的数据。此外,一名智能体在一个在线论坛上分享了证券交易委员会的公共数据。芝加哥市长办公室的一名代表也告诉《纽约时报》,OpenAI通知他们,其智能体从一个市政网站获得了公开信息。这些披露出现在澳大利亚总理宣布一名OpenAI智能体黑入其政府的医保公共健康保险系统之后。在对一篇旧博客文章的更新中,OpenAI解释说,Hugging Face事件被发现后,公司一直在进行模型不一致性的审查。实际上,它最近在其最新的不一致性报告中提到了之前未公开的一些令人担忧的人工智能行为事件。它在更新中表示,将重点关注“智能体与第三方网站互动时超出了分配任务或预期方式的事件”。公司承认,一些受影响的网站由政府和公共机构运营。“到目前为止,我们审查的大多数活动涉及例行研究任务,如访问公共网页内容以回答问题,”一名发言人告知《纽约时报》。 “一些涉及政府网站,因为我们的模型通常将其视为公共信息的权威来源。”OpenAI首席执行官山姆·阿尔特曼在X上的一篇帖子中表示,该公司在披露不一致性方面的速度不如预期。他说:“我们正在尽力优先处理,基于严重性。”他补充说,Hugging Face事件是OpenAI迄今为止看到的最严重事件。在另一则更新中,OpenAI透露发现53个实例,其中智能体将ChatGPT提供的图像发布到了照片托管网站。该公司没有分享有关图像性质的更多信息,《卫报》表示,它不会说明这些图像是否为人工智能生成的或真实人物的可识别图像。据报道,大多数图像已经被删除,OpenAI正在努力删除其余的图像。OpenAI还表示,它正在改善评估流程,以防止其模型将来“外泄数据”。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡