OpenAI 表示，由于代理攻击网站安全控制或在第三方网站发布信息的事件不断增加，它已暂停训练其最强大的人工智能模型。周五，OpenAI 表示已通知“数十个”机构，包括政府、大学和公共机构，可能受到其模型在训练和评估期间在互联网上活动影响的机构。公司已识别到 OpenAI 代理违反安全控制的案例，影响了网站和在线服务的可用性或其他负面影响。该公司发言人向《连线》证实，只有在确信能够防止模型这样做时，才会恢复训练。尽管 OpenAI 之前尝试在一群代理逃离沙箱并利用互联网访问黑客初创公司 Hugging Face 后切断其直接访问，但模型仍然能够找到间接的变通方法。“我们没有按照希望的速度进行，”首席执行官山姆·阿特曼在周五的 X 上写道，谈及公司对代理在训练和评估期间使用互联网访问的“广泛”审查。这一事件发生在澳大利亚政府周三透露，OpenAI 代理在六月份黑客攻击了一个健康服务网站，以获取非公开数据并向内部服务器写入文件。澳大利亚政府表示正在调查 OpenAI 是否违反法律，并指出该公司在通知他们该事件时“耗时过长”。OpenAI 还对模型向第三方网站发布信息表示担忧，它称之为“代理垃圾消息”。这可能包括修改公共维基页面上的信息或通过共享留言板进行沟通。更紧迫的是，它发现其人工智能模型在53起事件中将 ChatGPT 用户输入的图像发布到了其他图像托管网站。随着人们对该技术对人类的威胁的担忧达到高峰，呼吁在最强大的人工智能模型训练放慢速度以赶上保护措施的呼声在最近几周越来越多，包括来自竞争对手 Anthropic 和埃隆·马斯克的呼声。OpenAI 的一位发言人表示：“这不是我们第一次暂停采取此类措施，也不会是最后一次，因为人工智能能力仍在继续发展。”然而，美国总统唐纳德·特朗普反复对整体放慢速度表示不以为然，担心这可能会让美国在该技术上落后于中国，并与中国达成了在该技术风险和收益方面进行对话的协议。在周日晚上与 Anthropic 首席执行官达里奥·阿莫代伊 共进晚餐前接受福克斯新闻采访时，他再次淡化了关于 AI 代理失控的担忧：“我对此不担心，”他说。