切亚娜·哈斯莱特和索菲亚·蔡的报道。Anthropic首席执行官达里奥·阿莫代在近期与世界领导人和首席执行官的G7午餐会上。安娜·莫尼梅克/盖蒂图片社。根据一位不愿透露姓名的资深白宫官员和一位熟悉此事的行政官员的说法，白宫和Anthropic正在合作制定一个框架，以评估新AI模型中安全缺陷的严重性并指导潜在的政府干预。这一努力是在白宫对Anthropic施加出口管制之后展开的，迫使该公司暂停所有用户对其最新强大AI模型Fable 5和Mythos 5的访问，原因是被认为存在安全缺陷，业界称之为“越狱”。《华盛顿政治》此前报道，政府官员和Anthropic首席执行官达里奥·阿莫代对越狱的严重性存在分歧，但技术的发展超出了政府定义和评估此类争议的基础设施。《华盛顿政治》——与《商业内幕》一样——是阿克塞尔·施普林格全球记者网络的成员。创建一种标准化的方法来评估此类事件及未来事件的尝试，强调了政府急于为新型强大模型建立监测机制的紧迫性，因为一些人担心，如果不加以控制，这些模型可能会威胁到经济和国家安全。Anthropic与行政部门之间的谈判也反映出一种共识：没有任何AI模型可以完全免受黑客攻击——这也是Anthropic对其模型的初步辩护——政府应制定规则，以供公司衡量安全风险，这种观点在本周早些时候的法国G7会议上也得到了其他主要AI公司和国家领导人的传达。白宫与Anthropic之间的讨论——由公共政策负责人莎拉·赫克和联合创始人汤姆·布朗领导——旨在开发一套共同的基准，用于评估未来的越狱事件，包括所绕过的安全保障程度、暴露的能力和漏洞的实际后果。Anthropic和白宫未立即回应置评请求。尽管对Anthropic的出口管制尚未解除，向技术标准制定的转变表明谈判正在进展。周五，谈判几乎破裂，因为Anthropic拒绝了解除Fable部署的要求，争辩说漏洞有限，并不构成重要的安全缺陷。白宫回应实施了限制措施，禁止外国用户访问该模型，迫使该公司将其从市场上撤回。然而，在周末，行政高级官员与Anthropic领导人进行了多次长时间的通话，其中包括Anthropic联合创始人汤姆·布朗、商务部长霍华德·卢特尼克和国家网络主管肖恩·凯恩克罗斯。这些对话导致了在华盛顿近一周的面对面会议。Anthropic在周一派遣高级研究人员和安全保障专家前往商务部，与行政官员进行修复。此报道最初出现在《华盛顿政治》，并由阿克塞尔·施普林格全球记者网络提供，该网络利用公司的新闻室资源发布雄心勃勃的独家报道、调查、访谈、评论文章和分析。它使包括《华盛顿政治》、《商业内幕》、《WELT》、《BILD》、《Onet》和《Fakt》在内的记者们能够在重大故事上为国际数亿观众进行合作。