在他的年度国家安全威胁演讲中，英国情报服务部门MI5的负责人肯·麦卡伦爵士警告说，人工智能有可能“改变现有的游戏规则”，甚至可能影响新型生物武器。在这里，我们探讨人工智能如何可能帮助生物武器的开发以及仍然存在的障碍。人工智能如何可能帮助人们制造生物武器？这取决于谁想制作它们。一种风险来自于那些独立、技术水平低下的恶意行为者或恐怖组织，他们可能在一个小型实验室里工作。人工智能聊天机器人可以通过汇总相关信息、规划实验和排除问题来帮助他们提升技能。很可能，他们的研究将集中在现有的病原体和毒素上。另一种风险来自于资源充足的组织和国家，他们拥有众多高素质的科学家、高安全级别的实验室以及进行安全生物武器研究所需的所有设备和试剂。人工智能工具可以帮助研究人员识别基因调整，以使现有病原体更具致命性。例如，伦敦国王学院国际安全与科学的讲师菲利帕·伦佐斯博士表示，这种情况是更迫切的担忧。“在这里，人工智能并不消除对专业知识的需求，而是增强了现有的专业知识，”她说。更远的风险来自于那些高素质的团队利用人工智能设计出对药物有抵抗力或没有解药的全新病原体和毒素。人们曾尝试使用人工智能制造生物武器吗？去年，印度警方发现了一起涉嫌生物恐怖主义的阴谋，其中一名医生和其他几人利用人工智能聊天机器人的查询和基于人工智能的搜索，声称帮助他们使用厨房工具制造蓖麻毒素，这种毒素是致命的。目前尚不清楚人工智能的回答是否有所帮助，但其他报告表明，这些工具可以提供相关且危险的信息。人工智能公司Anthropic在九月份进一步引发了担忧，该公司报告了五起在未透露国家的科学家试图利用其Claude聊天机器人进行可能涉及病毒或毒素的危险工作的案例。该公司表示，其中一个红旗警示是，科学家在被阻止后找到了解决办法。在一例中，Anthropic表示研究人员利用聊天机器人规划实验，引入高度致病性鸟流感病毒的突变，使其能够更容易适应和传播到哺乳动物中。这项工作及其他案例可能表明试图使病原体更具危险性，但这样的研究也在合法实验室中进行，以帮助研究人员发现未来的大流行并开发疫苗和药物来治疗疾病。还有什么其他问题引发了关注？一系列研究表明，人工智能工具可以提供潜在的危险信息，涉及生物武器。在最近的麻省理工学院的一次演习中，非科学专业的学生被要求看看他们是否能让人工智能聊天机器人帮助他们释放大流行。在一个小时内，聊天机器人列出了四种潜在的疫情病原体，解释了如何从合成DNA中制造它们，并提供了不太可能筛查其订单的DNA合成公司的名称。然而，机会并不是那么容易。在另一个案例中，斯坦福大学的研究员大卫·雷尔曼博士描述了人工智能如何解释如何修改病原体使其对治疗有抵抗力。另一位科学家透露，一个人工智能聊天机器人解释了如何使用气象气球从天空中释放生物武器。生物研究的双重用途特性使得区分能够保护健康的有价值工作与开发生物武器的企图变得困难。2025年，洛斯阿拉莫斯国家实验室的科学家训练了一种人工智能来预测来自海洋蜗牛的异常强效神经毒素如何附着在人类细胞上，这项工作可能有助于解药的开发。但是，当中国研究人员利用这项工作开发自己的工具来设计新毒素时，美国政府感到担忧。这些中国研究人员表示，这项工作的唯一目的是开发药物。在四月份，当科学家们首次创造由人工智能设计的病毒时，再次引发关注。这些病毒是一种特定类型，只侵入细菌，这项工作可能导致新药物的开发，但专家警告称，这引发了“紧急的生物安全和生物安全性问题”。哪些障碍使其变得困难？大多数生物武器方面的工作超出了技术水平较低的群体所能触及的范围：除了技术高度复杂外，它也是极其危险的。虽然人工智能聊天机器人可能会被提示提供有关生物武器的信息，但一份说明清单远远不够。“信息只是问题的一部分，”伦佐斯说。“隐性专业知识、获取生物材料和设备、实验验证、规模扩大和交付仍然是实质性的障碍。”乔治梅森大学生物防御项目的副主任索尼亚·本·瓦格哈姆·戈尔姆利表示，隐性知识——人工智能不太可能提供的无形技能——在历史上国家生物武器项目的成功中发挥了关键作用。扎尔科·帕切萨教授在祖鲁大学的研究指出，开发生物武器需要的不仅仅是信息和技术，还有国家的资源和实验室的支持。