Anthropic的员工在公司博客中表示，他们不知道自己在做什么。Samuel Boivin/NurPhoto通过Getty Images 一名Anthropic员工表示AI的进展使他们处于内部动荡的状态。在周四的公司博客帖子中，Anthropic讨论了AI进展到可以自主改进的风险。该帖子引用了匿名的Anthropic员工谈论AI的编码能力，其中一名员工的引用总结了劳动力中对AI的困惑。“在一切顺利的日子里，我忍不住觉得我所做的毫无意义，一切都实现了自动化，比我能做到的更好更快，”他们说。“但有些日子一切都崩溃了，我不明白为什么，我意识到我已经不知道自己在做什么了，”该员工补充道。其他员工的反馈包括一名员工表示他已经大约五个月没有自己写任何代码，另一个员工预测AI生成的代码将在一年内超过人类编写的代码。博客帖子中提到，Anthropic的前沿语言模型Claude能够处理工程问题和研究任务，但“在Claude选择工程和研究目标时，存在较大的性能差距。”这发生在短短几个月内，AI的突破性进展让软件工程等角色发生了不可辨认的变化。像Anthropic和OpenAI这样的前沿AI实验室在去年年底发布了新的模型，这些模型能够显著地比旧版本更好地执行复杂任务。这对职场的影响是巨大的。公司CEO们开始炫耀他们的总代码中有多少是由AI编写的，谷歌表示这一数字达到了75%。公司越来越倾向于在AI上花费，而不是在招聘或员工奖金上。几家公司已经宣布与AI相关的裁员。星期四的博客帖子由Anthropic Institute的员工撰写，该机构是公司的一部分，发布有关强大AI系统影响和风险的研究和建议。在帖子中，谈到AI发展到能够自我改进的程度，该机构呼吁对AI开发进行放缓。该机构在博客中表示：“如果系统能够完全构建自己的继任者，那么我们确保它们安全、监控它们并塑造其行为的方式就变得更加重要。”它呼吁对开发前沿模型的AI实验室进行协调的“有意义的放缓或暂停”，以“使社会结构和对齐研究跟上”AI的进步。