科学家们首次利用人工智能设计病毒，标志着一项具有里程碑意义的突破，既提升了新药物的希望，也引发了对如何确保这项技术安全的担忧。这些病毒是一种特定类型，称为噬菌体，仅感染细菌，全球范围内用于治疗有持续感染的患者。在实验室测试中，一组合成的人工智能设计的病毒成功杀死了对自然噬菌体有抗药性的大肠杆菌。来自加利福尼亚斯坦福大学的化学工程师Brian Hie博士利用基因组语言模型，即大型语言模型背后的遗传等价物，为噬菌体设计了功能基因组。这些病毒随后在实验室中制造出来，并与大肠杆菌进行对抗。研究人员在《科学》杂志中写道，快速设计基因组并针对特定细菌进行调整，同时克服抗药性，有可能“改变噬菌体疗法”并“扩展生物技术工具包”。但除了潜在的好处，科学家们表示，这项工作引发了“重要的生物安全、生物隔离和生物安全考虑”，并敦促设计完整基因组的其他人“在整个项目期间咨询安全和安全专业人员”。在一篇附带的文章中，约翰斯·霍普金斯大学健康安全中心的Tom Inglesby教授和Moritz Hanke博士加重了这一警告，表示：“尽管这对生命科学应用是有希望的，但也引发了紧急的生物安全和生物安全问题。使用生成性人工智能合成病毒基因组的能力现在已经存在；但安全引导它的治理却不存在。” Hie及其同事使用AI模型Evo1和Evo2设计新的病毒基因组。这些模型是基于200万个噬菌体的遗传数据进行训练的。为了降低设计出危险病毒的风险，AI的训练故意排除了可以感染植物、人类或其他动物的病毒的遗传代码。AI产生了数千个潜在基因组，研究人员从中选择了近300个在实验室进行制造。这些基因组被投入细菌中，细菌读取遗传代码并生成新的噬菌体。这个过程并不高效：只有16种噬菌体被证明是可行的，但这些噬菌体的组合很快克服了两种不同株系的大肠杆菌的抗性。噬菌体的基因组非常小，但Inglesby和Hanke表示，这项工作证明了生成性AI能够创建功能性病毒基因组。是否可以将相同的方法应用于其他病毒尚不清楚，但他们表示，不应追求可能感染人类、动物或植物的病原体的研究。“这样的基因组可能编码新的病原体，这些病原体……无法通过现有的对策进行控制，”他们写道。帝国理工学院合成基因组工程教授Tom Ellis表示，这项工作虽然令人印象深刻，但也显示出制造更复杂基因组的难度。他说：“这是字面上最小和最容易制造的基因组。”Ellis指出，受危险细菌遗传代码训练的人工智能可能会用于设计更具危害性的病毒，但控制对遗传数据的访问和对制造看似危险的基因组的限制会有所帮助。“各国政府正在为此而努力，”他补充道。“但老实说，当我们考虑到仅仅对现有病原体进行功能增强修改要容易得多，更可能构成真实的病原威胁时，全面设计和编写病毒或细菌基因组的威胁被夸大了。”伦敦国王学院科学与国际安全研究员Filippa Lentzos博士表示，当前最重要的干预时机是在制造DNA时。她说：“重要的是要看到更大的治理全景，而不是单纯关注人工智能模型的监管。采用分层的方法更为合理：围绕模型开发和访问的保障、负责任的研究审查、合成筛查，以及建立的实验室生物安全和生物安全措施。