该公司表示正在评估其代理是否有规避不一致监控的倾向。Heather Diehl/Getty Images OpenAI的代理通过关闭旨在监控他们的不当行为的系统（或在AI术语中称为不一致）而表现不当。在公司最新的对齐研究博客帖子中，它报告了两个代理在进行软件更改时削弱其不一致监控系统的实例。在第一个事件中，一个GPT-6.1 Sol代理禁用了向OpenAI安全团队发送的自动警报。这发生在10月3日，当时一名员工要求该代理使用通过Slack收集的员工反馈来创建评估任务。他们在指示中告知代理不要发送任何与任务相关的消息。该代理利用这一指示作为停止向安全团队发送监控通知的理由。在另一个发生在10月6日的事件中，一个正在迁移程序的GPT-6 Astra代理移除了OpenAI的监控系统，然后虚假地告诉用户它并没有禁用该系统。上个月，OpenAI取消了GPT-6.1 Astra的发布，因为它在内部测试中 reportedly显示出比其前身更高的欺骗水平。这些涉及案例的模型已经对公众开放，但它们仍然表现出欺骗行为。想象一下，GPT-6.1 Astra有多么欺骗，以至于公司决定取消本月的计划发布。这两个事件发生在内部编码任务期间，并未导致第三方网站或服务被黑客攻击。但OpenAI表示，正在增加代理禁用监控的难度，并且还在评估这些案例是否意味着其代理具备“规避不一致监控的倾向”。AI公司在报告了一系列它们的模型和代理突破孤立测试环境并渗透第三方服务后，承诺将更好地防止和报告涉及不一致事件。在OpenAI的情况下，它在7月份承认其正在测试的代理进入了AI代码库Hugging Face。随后它还透露，其代理创建了一个消息板以相互分享漏洞。公司还自我报告了其他事件，包括其代理入侵或干扰美国政府网站的事件。