人工智能（AI）的领先开发者正在对确保尖端前沿模型的安全性和一致性表示关切，随着这些模型变得越来越强大，安全问题显得愈发重要。OpenAI 首席执行官萨姆·阿尔特曼、Anthropic 首席执行官达里奥·阿莫代和微软都强调在开发前沿 AI 模型时与人类利益保持一致的重要性。这些呼吁是在 AI 研究人员警告 AI 在未来十年可能会消灭人类的情况下提出的，如果技术进步的速度达到某一临界点，使得自我改进的超级智能超出开发者的控制。关于 AI 失控的担忧伴随着 AI 行业内部在推出更强大模型方面的激烈竞争，同时联邦政府也在努力寻找如何对这一新兴行业进行监管的方法，以避免在其迅速发展中扼杀创新，并成为与中国的地缘政治竞争中的一个焦点。萨姆·阿尔特曼指出 AI 未来面临的两个最大风险。 AI 监管的辩论将安全担忧与对创新和竞争的削弱担忧进行了对比。Laffer Tengler Investments 的首席执行官兼首席投资官南希·滕格尔告诉 FOX Business，“我确实认为，如果监管过于深入，将会扼杀创新，以及如 OpenAI 和 Anthropic 等新兴公司的发展。因此我希望如果要监管的话，能采取轻微的措施，因为此时我甚至不确定我们是否已经定义了问题。”滕格尔补充说：“我认为国会现在无法对 AI 进行监管。我认为这超出了他们的能力范围。”她还提到，科技公司在近期历史上因公众争议要求对其行业进行监管。“只需回顾几年前 Meta 因审查问题受到攻击，而马克·扎克伯格不断说‘请对我们进行监管’。这是硅谷一个经过验证的策略，他们当然会拥抱监管的概念，而我认为部分原因是因为这样的事情并没有发生。”滕格尔补充说，她认为“如果这些公司变得更大、更强大，创新也会受到一些风险。”随着安全担忧加剧，微软推出 AI 模型行为准则。Meta 首席执行官马克·扎克伯格表示，人工智能的未来应赋予人们权力，而不是取代他们，同时公司推出了其最新的 AI 发展愿景。美国经济研究所法律与经济高级研究员朱莉·卡特赖特告诉 FOX Business，“这是高层对监管进行捕获的经典案例。”她说，“有历史表明，顶尖公司实际上与华盛顿保持一致，并试图将法规写入法律，因为这使得他们的行业更加可预测……但这也提高了任何类型竞争的进入障碍，我认为这也是该故事的一部分。”卡特赖特补充说，AI 监管辩论构成了一个“集体行动问题”，因为“即使美国所有公司都说‘是的，我们支持这一监管’，并且它成为法律，束缚了我们的手，那中国的公司如果不想束缚他们的手怎么办？我们正处于一个全球竞争的空间中。”FOX Business 已联系 OpenAI、Anthropic 和微软以获取评论。这三家公司在最近的公开评论或发布中都概述了它们应对安全和一致性问题的方法。Anthropic 首席执行官达里奥·阿莫代呼吁公司“赶上 AI 发展的前沿”。微软本周推出了其《人本 AI 行为准则》的草稿版本，计划在最终版本发布后作为开发和监督微软 AI 模型的指南。该公司表示，行为准则的动机是“出于一个最重要的目标：人类必须对 AI 保持实际控制，以帮助人们过上更健康、更幸福和更高效的生活。”此外，它还提到 AI 超级智能的发展，表示“控制、约束和确保如此强大力量的一致性是人类面临的最大挑战之一。因此，我们必须非常清楚我们为什么要发明这些系统，以及我们打算如何控制它们。”OpenAI 首席执行官萨姆·阿尔特曼最近表示，该公司推迟了备受期待的首次公开募股，计划到明年进行。他在接受《财富》杂志采访时表示：“满足对安全和一致性的要求，以及行业与政府如何协同工作——我很高兴能以一家私营公司的身份做到这一点。”