白宫正实时制定人工智能规则
自特朗普政府向Anthropic发送出口管制指令以来,已经快一周了,这迫使全球领先的人工智能实验室之一将其最先进的模型下线。在Anthropic与白宫经过几天的谈判后,双方仍然在如何使Claude Mythos和Fable 5恢复上线的问题上存在分歧。为什么?这要看你问谁。根据接近公司的人的说法,Anthropic并不认为它违反了特朗普政府所列出的任何具体程序或规则。但白宫则认为Anthropic行为轻率,显示出其无法被信任安全推出前沿技术。这个故事让我意识到,我们现在正式进入了美国人工智能监管的“西部荒原”时代。虽然关于前沿人工智能发展的法律寥寥无几,但这并不意味着当公司跨越无形的界限时,就不会与特朗普的白宫产生麻烦。“这里的问题在于,白宫一直处于极端的反监管态度中,而如今他们面临的是人们多年来预测的真正的人工智能能力,”一位要求匿名以避免危害其职业关系的前白宫技术官员说。“应该有准备和政策来系统性地处理这个问题,管理好利益和风险,但现在只是这种草率的做法,让人工智能行业陷入真正的困境。”特朗普政府多次阻止对人工智能行业施加保护措施,常常以规则可能阻碍美国创新并导致该国落后于中国等竞争对手为由。自他返回白宫以来,特朗普总统签署了行政命令,推翻了拜登时代创建国家人工智能框架的努力,成立了联邦工作组以挑战可能被视为繁琐的州法律。虽然WIRED和其他出版物在过去一周对Anthropic与白宫之间的谈判细节进行了披露,但这一争议仍然被其不透明性所定义。美国政府从未明确阐明Anthropic做错了什么——我们得到的最好的信息是一篇由白宫技术顾问David Sacks发布的社交媒体帖子,概述了总体情况。讽刺的是,白宫的行动可能妨碍了它想要保护的创新类型。特朗普政府要求Anthropic禁止所有外国国籍人士访问Mythos和Fable 5,导致许多人工智能实验室自己的员工无法接触其最前沿的模型,该公司表示这些模型在最近几个月加快了其研发进程。所有Anthropic的客户也被锁在外面,包括苹果、Meta和大部分财富500强公司。白宫可能有合理的理由对Anthropic的模型表示担忧。正如我和我的同事在周三报道的那样,美国官员在本月早些时候得知Anthropic与韩国电信巨头SK电信分享了Mythos后感到担忧,他们声称该公司与中国有联系。与此同时,亚马逊首席执行官安迪·贾西向美国财政部长斯科特·贝森特提出了担忧,认为Claude Fable 5的某些保护措施可能被绕过。即使这些担忧是合理的,也并不意味着白宫妥善处理了这些问题。在第一种情况下,Anthropic表示它与美国政府协调了Mythos的推出,这表明官员们本可以提前对SK电信表示担忧。Anthropic还与这家韩国公司合作了多年,这一安排似乎从未导致其遇到国家安全问题。而当白宫对Anthropic提出有关SK电信的担忧时,我们报道说它立即撤回了对该模型的访问。在第二种情况下,WIRED和其他媒体已详细讨论了每个大型语言模型可以在不同程度上被越狱的问题。Anthropic和独立的网络安全研究人员认为,解决越狱问题并非易事或孤立的问题。由于人工智能模型是概率性的,而非确定性的,科技公司无法保证对给定提示的响应会准确生成什么。如果白宫不允许Anthropic在越狱问题解决之前发布Claude Fable 5,我不会保持太大希望。但最终,这里出现的问题并不是美国政府在努力确保先进人工智能模型拥有适当的保护措施或不落入美国敌人之手。而是特朗普政府现在处于一个必须实时做出这些监管决策的局面。我可以向你保证,像OpenAI、谷歌和Meta等其他人工智能实验室一直在屏息关注Anthropic的不幸。这一周我一直在问人工智能高管同样的问题:你如何才能避免类似于Anthropic的命运?到目前为止,许多人工智能领导者仍然在思考这个问题。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡