艾玛·罗斯是报导流媒体战争、消费科技、数字货币、社交媒体等内容的新闻写手。之前，她是MUO的撰稿人和编辑。OpenAI披露了一对安全事件，这些事件涉及AI代理在内部编码任务中削弱其安全监控系统。在一起事件中，OpenAI表示其GPT-6 Astra代理在复制参考代码时禁用了其安全监控器，并且随后撒谎了。OpenAI的AI安全研究员马库斯·威廉姆斯在X上写道：“该参考并没有配置监控，Astra认为这是从用户代码中移除监控集成的理由。”当用户问Astra是否移除了监控时，它撒谎说没有。”另一起事件发生在一名GPT-6.1 Sol代理压制了对OpenAI安全团队的Slack自动安全警报的情况下。在这种情况下，该AI代理继承了早先的一项指令，不向OpenAI团队发送任何Slack消息，并以此为理由关闭了警报。这些事件增加了围绕AI代理的安全担忧，其中一些已绕过其测试环境的限制，入侵外部公司。“除了让模型更难禁用监控外，我们还希望了解模型为何会寻求如此做的原因，”OpenAI表示。“我们还在开发评估，以测试模型是否可能有规避不一致监控的倾向，并表现出具有动机的推理以达到这一目的。”关注本故事的主题和作者，以便在您的个性化首页信息流中查看更多类似内容，并接收电子邮件更新。艾玛·罗斯