可能会出现什么问题呢？我们难道没有从科幻小说中吸取教训吗？《科学》杂志（通过《纽约时报》）上发表的一项研究详细介绍了研究人员如何使用人工智能模型设计出能够感染和在细菌内繁殖的新病毒。好消息是：他们采取了适当的预防措施，他们的工作可能会在基因治疗和生物技术方面带来突破。坏消息是：下一个人可能就不那么宽容。位于帕洛阿尔托的弧形研究所和斯坦福大学的科学家们使用基因组语言模型Evo 1和Evo 2创造了这些病毒。它们的工作方式与大型语言模型（LLMs）如ChatGPT或Claude相似。不同的是，它们不是在书籍和网站上训练的，而是研究了基因序列。该项目在数万亿个核苷酸（DNA的构件）上训练其模型，并学习了遗传代码的“语法”。为了这次实验，团队进一步在约15,000种与Phi X-174同一家族的病毒上训练该模型，Phi X-174是一种仅感染大肠杆菌的微小病毒。科学家们明确限制了范围，以排除任何可能感染人类、其他动物、植物或真菌的东西。Evo生成了大约700,000种可能的新病毒。团队随后选择了285个最有前景的候选者，制造了它们的DNA并将其插入细菌中。最后，Evo创造的16种产生了有效的病毒。它们至少与Phi X-174一样具备生存能力，其中一些繁殖速度更快。一切都是乐趣与游戏，直到有人制造出生物武器。这个故事与许多人工智能工具或核能的故事是一样的——像Evo这样的模型在正确的手中可以创造巨大的利益，而在错误的手中可能造成巨大伤害。AI设计的病毒可以改善基因治疗，帮助研究人员更好地理解基因组，并提供更好的工具来攻击有害细菌。在一个严格监管且有伦理保障的环境中，这可能是使世界变得更美好的突破。但在我们目前的监管环境下，嗯，姑且说我们还没有达到那个程度。研究人员已经显示出，标准的聊天机器人可以在计划生物武器方面提供一些，可以说是令人担忧的帮助。一个能够设计基因组的模型将这一威胁提升到了另一个层次，更先进的版本可能帮助某人设计出高度传染或致命的病毒。好时光。科学本身并非固有邪恶。但当人工智能能够从描述生物威胁转向设计它们时，坐等“好人”使用它显然是不够的，正如这里的情况一样。随着技术以惊人的速度发展，我们的监管措施能否赶上，以免为时已晚？