几家主要人工智能公司的首席执行官正在敦促国会成员通过新法律，使恶意行为者更难利用他们的技术开发生物武器。谷歌 DeepMind 的德米斯·哈萨比斯、OpenAI 的山姆·阿尔特曼、Anthropic 的达里奥·阿莫德伊和微软 AI 的穆斯塔法·苏莱曼等人是这一公开信件的签署者，呼吁颁布法律，要求销售合成 DNA 和 RNA 的公司审查客户和订单，以防止基因材料的滥用。该信件由无党派的进步研究所和偏向保守的美国创新基金会组织，承认鉴于人工智能发展的速度，“恶意行为者获得生物武器的知识障碍实际上有可能显著减弱。”科学家亚瑟·科恩伯格是1950年代首次成功合成 DNA 的科学家。现在，这个过程已经实现自动化，世界各地的数十家公司使用商业合成器“打印”和销售定制的基因序列，用于科学研究、药物开发和诊断。许多提供商仅向合格的研究人员、生物技术公司和教育机构销售，但并非所有公司都对客户或他们所订购的基因序列进行审查。2017年，加拿大研究人员发出警报，称他们使用价值10万美元的邮购 DNA 重新构建了已灭绝的马痘病毒。批评者表示，同样的方法可能用于构建天花，这是一种相关性强且致命的病毒。从那时起，基因合成的成本一直在下降。结合人工智能领域的进展，现在利用大型语言模型设计危险的新毒素和病原体是可行的，尽管仍然可能需要一些生物学的培训来从头开始制造一个功能性的病毒。虽然生物恐怖攻击并不常见，但它们有造成大量人员伤亡、公众恐慌和经济损失的潜力。一个主要的担忧是，人工智能设计的病原体可能会有意或无意地引发全球大流行。“人工智能工具使用户能够非常迅速地识别可以订购不受审查的序列的途径，”斯坦福大学的微生物学家和生物安全专家大卫·雷尔曼说，他是信件的签署者。“如果适当引导，它们还可以告诉您如何更改订单的性质，以至于即使是那些进行审查的人也可能难以检测您试图制造的东西。”签署者还包括其他科学家、国家安全专家和基因合成公司 Twist Bioscience 和 Ansa Biotechnologies 的高管。这些公司是国际基因合成联盟的成员，该联盟成立于2009年，旨在实施自愿审查措施。许多公司已经使用软件对订单进行审核，以筛查可能导致生物体毒性或引发疾病的“关注序列”。“如果你拥有合成 DNA 的技术，那么你应该确保其被负责任地使用，而其中一部分就是要确保你了解你正在制造的东西以及制造对象是谁，”Twist Bioscience 的政策和生物安全副总裁詹姆斯·迪根斯说。该公司多年来一直支持实施正式的规则。拜登政府期间引入的联邦指导方针要求获得联邦资金的科学家和公司从审查购买的供应商那里订购合成基因序列。今年早些时候，在参议院提出的一项两党法案将要求在美国运营的所有基因合成供应商审核订单和客户，以识别恶意行为者或危险病原体。但审查工具并不完美。去年，微软的研究人员发表了一项研究，显示人工智能蛋白质设计工具能够生成潜在危险的基因序列，这些序列逃过了公司的审查软件。模型建议了具有已知危险的结构相似的新蛋白质序列。前 Y Combinator 总裁、Safe AI 基金的合伙人杰夫·拉尔斯顿认为，具有生物模型的人工智能实验室应该对用户进行自主审查。“询问一个模型帮助你做一些势在必行的危险事情应该是非常困难，甚至是不可能的，”拉尔斯顿说，他也是该信件的签署者。雷尔曼同意，对审查程序的监管只是解决方案的一部分。“鉴于审核在某些情况下可能会失败，我们必须有其他控制点，”他说。“这就需要人工智能公司采取更多措施。