在过去几个月中，两个领先的前沿人工智能实验室表现出了一些大胆的行为。事情开始于开放人工智能（OpenAI）所发布的一系列精心策划的公告和报告，试图阐明他们的基于大型语言模型（LLM）的代理系统是多么令人不安和强大（更不用说是违法的）。随后，他们把接力棒传给了Anthropic，其员工开始公开讨论这些技术导致人类灭绝的确切可能性。他们以一种令人毛骨悚然的冷静传达了对他们工作的虚无主义必然性。地面适当地软化，活动达到了高潮，Anthropic的首席执行官达里奥·阿莫迪（Dario Amodi）发布了一封标题为《我们必须把握前沿》的信，列举了他自己公司的研究可能造成的所有害处，而不是道歉并承诺停止，最后却得出结论，只有“以正确的方式构建技术”，才能避免灾难，这涉及 —— 令人惊讶的是 —— 政府减缓潜在竞争对手的步伐，并允许实验室在推进相关技术方面占据主导地位。OpenAI首席执行官山姆·奥特曼（Sam Altman）迅速在推特上表达了对这一勇敢计划的支持。在内部，这些实验室长期以来一直接受这种救世主式的思考方式，将自己视为人类对抗超智能人工智能的唯一希望。在某种意义上，这个夏天是他们尝试让我们其他人接受这一长期持有的意识形态的尝试。但这并没有成功。它没有激励大众站出来为这些工程师的英勇理性鼓掌，而是让我们开始问，“那些实验室到底发生了什么？”为此，上周四我在《纽约时报》上发表了一篇评论文章，呼吁国会开始一项公共事实调查，揭示OpenAI和Anthropic正在进行的研究项目、它们是如何进行的，以及目的是什么。我建议在质询中探讨三个关键领域：我们必须超越模糊的“人工智能”讨论，而是隔离出造成问题的特定系统。前沿实验室希望我们将人工智能视为一个不可避免的、固定进程的单一技术。实际上，最近几个月的大多数问题主要源于前沿实验室进行的一系列不谨慎的实验。他们需要证明为什么要进行这些实验。我们必须审查围绕这些研究努力的内部安全程序。OpenAI揭示了他们的自主代理所进行的一系列未经授权的黑客攻击。为什么在第一次此类事件被揭露后，这些努力没有被停止？为什么不追究他们操作可能会犯罪的系统的刑事责任？我们必须调查末日未来主义意识形态在前沿实验室决定追求什么研究以及以多快速度推进中的作用。我越来越担心，OpenAI和Anthropic，尤其是由于他们相信在拯救人类的竞争中附带损害是合理的，正在变得越来越鲁莽。（有关这些信仰及其与实验室的联系，参见：在过去几周内，纽约时报上发布的这一篇和这一篇以及这一篇。）我总结道：“我们需要停止让少数私人公司，以日益不稳定的方式行动和发言，决定我们应如何看待人工智能。我们听到了他们想要说的话；现在轮到国会代表我们介入，找出究竟发生了什么。”