山姆·阿尔特曼和OpenAI的首席科学家在周一的博客文章中谈到了让AI安全和保持人类掌控。彭博社/盖蒂图片社 OpenAI表示，一个一切都被自动化的世界将是危险的。在周一的博客文章中，首席执行官山姆·阿尔特曼和OpenAI的首席科学家雅库布·帕霍基表示，尽管AI带来了生产力的好处，他们仍然“清醒地认识到AI的风险”。“完全自动化一切并不是我们想要的未来，”两人在文章中写道。“这将是没有满足感的，并且是危险的。”他们表示，AI系统必须保持安全并受到人类的控制。随着AI系统能力的增强，人类在“设定方向、做出权衡、应用判断并将价值、品味、关心和责任带入工作”方面的角色将变得更加重要。能够最小化人类干预的AI系统（被称为代理AI）目前是科技和商业领域最大的流行词。Anthropic和OpenAI正在争相让公司在其Claude Code和Codex编码平台上建立企业账户，这是两家公司上市前的竞争。OpenAI的帖子发布不到一周，Anthropic也发布了一篇类似的博客文章，警告快速AI发展带来的风险。Anthropic的一名员工在帖子中表示，他们无法跟上自动化的步伐，并且在AI系统产生错误时不知道如何解决问题。在博客文章中，Anthropic呼吁减缓AI开发，以“使社会结构和对齐研究保持同步”。其他公司高管也谈到了AI无法自动化或替代的人类角色，例如Duolingo首席执行官路易斯·冯·安表示他的顶尖设计师的工作效果远胜于AI，而Salesforce首席执行官马克·贝尼奥夫表示该公司不会放缓销售部门的招聘。“对于某些事情，AI已经非常能够高质量地工作。对于某些事情，它就是不能，”冯·安在5月的一次播客采访中表示。“我们不会仅仅为了使用AI而降低质量。”