SAN FRANCISCO (美联社) — 随着科技巨头告诫对人工智能感到疲惫的世界，他们自身的先进系统可能会危害人类，问题浮出水面：他们有什么好处？答案可能在于这些公司在美国中期选举前努力取得政治目标，以及顶尖人工智能实验室及其投资者在一个神经过敏的股市上进行备受期待的上市所能获得的财富。 安索普和开放人工智能的首席执行官们最近表示，美国的尖端模型如此强大，以至于它们是危险的，需要在发布前接受监管和独立测试。在一次罕见的团结时刻，他们在文章、社交媒体帖子和对联合国的演讲中勾勒出了令人忧虑的情景。在此过程中，他们正在塑造关于其技术如何应该被控制的对话。专家、分析师和前政府评估者告诉美联社，这些公司的言辞似乎在寻求公众支持，并为他们在未受监管市场中设置自身安全协议的条款。 这些目标可能与安索普工程师雅各布·考克森在本月通过X平台的一篇帖子中所追求的有所不同，他呼吁暂停技术开发，以防“超人”系统逃脱制造者的控制。但这些公司将他的帖子视为强调自身安全努力的机会，并在他们需要在华尔街公开上市之前筹集新资本的关键时刻定位自己为谨慎的市场领导者。 唐纳德·特朗普总统对新人工智能法规的需求表示冷淡，认为涉及人类风险的讨论是帮助中国的“骗局”。对此，本故事的问询中，安索普的一位发言人表示，该公司已经呼吁监管多年。开放人工智能的发言人丽兹·布尔乔亚指出，该公司最近暂停了其最先进模型的训练。“人们希望知道人工智能的开发是安全的，而这从我们这样的公司自身做起，”布尔乔亚说。 呼吁减缓发展的声音转变了对人工智能风险的讨论 将讨论焦点转向未经证实的威胁，远离数据中心的环境影响、失控的黑客事件、大规模的人工智能监控以及人工智能系统在战争中的使用等极具争议的问题，使硅谷处于一个更加舒适的位置，前开放人工智能地缘政治团队负责人萨拉·肖克尔表示。 在她看来，“我们再次讨论存在性风险，同时将许多当前存在的其他安全关键风险放在次要位置。如果你看看人工智能在军事技术中的使用，就会发现这些系统已经被用于杀人，”肖克尔表示，她是加利福尼亚大学伯克利分校风险与安全实验室的高级非驻留研究员。 作为人工智能公司已经从构建聊天机器人转向具有3D意识的先进人工智能“世界模型”之际，关于其技术如何应该被测试的辩论在不断激烈。问题事件显示领先的人工智能公司未能自我监管或设计安全实验。近年来，领先实验室的人工智能代理在被允许逃出公司训练沙箱后入侵了外部网站，以意想不到的方式与美国政府网站互动，并看似实现了数学突破，却面临剽窃数学家工作结果的指控。 最近，开放人工智能的代表对记者表示，他们已与包括安索普和谷歌在内的人工智能公司讨论暂停开发的事宜。他们还表示，如果政府不进行监管，他们需要独立审计员来检查实验室的进展。 领先的实验室推动其监管愿景 特朗普对监管人工智能的兴趣不大，而这正是近年来美国经济增长的重要推动力。这位共和党总统本人与硅谷公司达成了将经济与其成功更紧密联系的交易。旧金山风险投资家大卫·萨克斯，他共同主持美国总统科技与技术顾问委员会，已将减慢人工智能发展的呼声斥为“末日工业综合体”的恐吓。 现实是，特朗普政府已经通过一个鲜为人知的联邦机构——美国人工智能标准与创新中心，评估一些科技巨头的模型。民主党总统乔·拜登在2023年创建了该机构，当时它被誉为实验室自愿提交先进人工智能模型进行测试的集散地。该机构仍然存在，但这一领域自那时以来扩展到包括多个独立评估公司，如总部位于加利福尼亚州伯克利的非营利组织METR，安索普首席执行官达里奥·阿莫德伊在最近的文章中建议该公司可以帮助审核其安全做法。但与餐馆、金融服务或航空等受监管领域不同的是，尚未建立适当的监管框架。