一些AI行业最大的竞争对手放下了众多不满，为一个共同的事业而努力：使人们更难利用他们的技术开发生物武器。在致美国立法者的公开信中，科技领袖正迫使国会制定规则，以弥补他们所说的一个警示性生物安全漏洞，这可能会助长全球大流行。Anthropic的Dario Amodei、OpenAI的Sam Altman和微软的Mustafa Suleyman都是这一信件的签署者，他们呼吁美国立法者要求出售合成DNA和RNA的公司——可以在线订购并在实验室组装的遗传材料——对可能用于制造危险病原体的序列进行筛查。人们担心，AI工具可能使设计潜在危险序列变得更容易，能够从制造商那里订购这些序列，并以以前需要更专业知识的方式使用它们。其他签署者包括Meta的AI首席Alexandr Wang和谷歌DeepMind的Demis Hassabis，他因在基于AI的蛋白质预测方面的工作获得了2024年诺贝尔化学奖。这封信还得到了知名科学家、国家安全和政策专家的支持，以及来自生物技术公司的高管签名，包括Twist Bioscience和Ansa Biotechnologies，这两家公司都是合成遗传材料的主要供应商。这封信 reportedly 由两个智库组织：美国创新基金会和进步研究所。科学家们长久以来警告说，合成生物学的进步可能使科学家更容易工程危险生物体，甚至复活早已灭绝的病原体——这一工作如果被误用、处理不当或意外释放，可能会造成毁灭性的后果。但这种能力很大程度上仍掌握在拥有先进实验室、设备和资源的技术科学家手中。现在的担忧是，随着生物工具变得越来越便宜和可获得，以及AI模型能力的提高，防止误用的障碍开始崩溃。专家们还警告，AI可能会帮助生产其他威胁例如化学武器。尽管信中承认大多数合成DNA和RNA的主要供应商已经对订单进行了筛查，但这是一种自愿而非强制性的筛查。信中表示，还应对任何订单保持详细记录，以便追踪任何逃避初步筛查的威胁。“鉴于底层技术变革的速度，我们认为这种需求是紧迫的，”信中说。“这是一个不同利益相关者之间罕见的一致时刻，我们希望政策制定者能够采取果断行动。”