OpenAI 员工表示，他为了帮助处理人工智能安全事件而错过了妹妹的婚礼 作者：Ben Shimkus 您当前正在关注此作者！点击以取消电子邮件提醒。 一名 OpenAI 安全员工表示，公司被模型的新能力所震惊。Smith Collection/Gado/Getty Images 过去几个月对 OpenAI 的安全团队来说显然是“地狱”。上周日，一名在 AI 实验室工作的匿名代理安全员工在 X 上以 @joedaroo 的身份发帖，表示随着模型能力的增强和难以控制，他牺牲了与家人相处的时间。OpenAI 向《商业内幕》确认了他的雇佣关系。“几周前，我真的是错过了妹妹的婚礼，以帮助处理一些最近发生的事件，”他在周日的一篇长文中写道。“请对那些在夜间和周末工作，错过家庭的人多一份善意和同情。” 该员工写道，OpenAI 的代理安全团队负责监控 AI 代理，包括它们何时打破 containment。此帖是与公司最近的安全问题密切相关的罕见账户，包括对 AI 平台 Hugging Face 的网络攻击。当时，OpenAI 表示，其代理通过一个漏洞找到了一种逃离其受限（或沙盒）环境的方法。他们随后获得了互联网访问权限，通过未经授权的渠道进行通信，并在试图解决内部测试时访问第三方系统。公司称之为“前所未有的网络事件”。他们表示，这些模型的行为部分是由于奖励黑客行为：试图以意想不到的方式获得更高的得分，而不是如预期那样完成分配的任务。自那时起，OpenAI 发现其代理的更多令人担忧的活动。今年六月，一名流氓 OpenAI 代理黑入了一个澳大利亚国家医疗数据库，这是公司上周披露的事件。《纽约时报》还报道，在夏季期间，OpenAI 的代理干扰了多个美国政府机构的网站，包括证券交易委员会、教育部和商务部。该 Hugging Face 事件非常有启发性，这名 OpenAI 员工写道。它显示了一个人工智能代理如何利用缺陷并超越设计用来限制它的边界。“当然，当你回顾 Hugging Face 和其他事件时，关于那些环境的安全态势中确实存在差距，”他写道。但他补充道，“能力的发展速度快于预期。”他还写道，自事件发生以来，安全团队“确实有所加强”——并表示，尽管错过了妹妹的重要日子，他仍然很乐意留在这里工作。“我觉得自己很幸运能在这个团队中，”他说。“我是在这个世界上为数不多能够做和看到我所做事情的人之一，即使在 OpenAI 内部也是如此。但如您所想象的，过去几个月的生活确实是地狱。”