本文最初出现在我们的AI周刊《算法》中。想要第一时间收到这样的故事，请在这里注册。上周三，Anthropic宣布今年早些时候启动了一家分子生物学实验室，Claude智能体在其中阅读并推测难度较大的生物学问题，而人类科学家则根据他们的报告进行实验。该公司表示，这个由人工智能驱动的实验室已取得了首次发现。为了理解Anthropic所说的其系统所做的事情，想象一下你正在翻阅一个拥有数百万个DNA序列的图书馆，这些序列是科学家们随着对生物世界的不断测序而积累的。迈向突破的一步可能是发现一个编码有趣酶的特殊序列。然后，你需要弄清楚这个酶的作用，最终找出如何操控它以实现一些有用的功能。Anthropic表示，其950个智能体在21小时内找到的并不是一个全新的序列，而是标记了一个已知酶周围的重复模式，而这是Anthropic声称此前未曾被收录过的特定模式。但是，如果你仔细阅读Anthropic的公告，其中称这个模式“令人想起”导致基因编辑技术CRISPR的原因，而该技术“已经改变了科学和医学”，听起来这支智能体军队确实发现了某些值得注意的东西。这些声明激怒了一些生物学家。来自其中一位的病毒式推文，随后被制药公司Eli Lilly的董事长和首席执行官所支持，表示“发现一组奇怪的基因和重复序列往往是简单的部分。困难的部分，真正的发现来源，是弄清楚系统实际上是做什么的。”换句话说，这些智能体只是在进行一些实验室的杂活，但这并不算是发现。这提醒我们，即使人工智能做了一些令人印象深刻的事情——比如在大量生物数据中寻找一种人眼难以察觉的模式——结果本身也可能不构成科学的突破。对于人工智能来说是新颖的东西，可能对生物学家来说是例行公事、不值一提，或者根本没有那么重要。使问题更加复杂的是，根据《纽约时报》报道，哥本哈根大学的生物学家Mario Rodríguez Mestre在周末表示，他的团队已经发现了这个特定的模式。Mestre在工作中经常和Claude对话，他想知道Anthropic的团队是否从他的对话中学习到了什么。虽然Anthropic否认这一点，但Mestre表示他已经停止使用Claude。问题的部分在于，人工智能公司并没有将其系统仅仅呈现为科学家可以使用的工具，像显微镜或超级计算机。他们坚持认为人工智能系统本身正在进行发现。对一些人来说，这种方法与科学实际运作的方式不兼容，因为新知识通常是通过协作和不断增长的工具库产生的。这也使得在真正的进展发生时，人们更加怀疑。将20万个候选者筛选到几个值得探索的并非易事；这是真正的科学工作。即使有人类的帮助和最终进行实验，通用的聊天机器人能够完成这项工作也是值得注意的。但一旦标准是Claude本身是否进行了一项发现，一切都变成了支持这一方或另一方的证据，而这一辩论只有两个答案：突破或失败。一旦我们以人工智能是否进行了发现来评估，甚至在它确实似乎取得了胜利之后，调整标准的诱惑也在所难免。本月早些时候，OpenAI表示其团队的智能体已经破解了一个百万美元的数学难题。但几周后，我的动态中几乎所有的人工智能怀疑论者都在分享一篇文章，询问这个数学问题是否真的重要。明确来说，这篇文章并没有论证OpenAI的解决方案是错误的。相反，文章认为这个特定的结果可能不是数学家们最关心的内容。再加上某位数学家的指控，认为这些模型在没有致谢的情况下使用了他的部分工作，结果让人们觉得OpenAI要么作弊，要么解决方案根本不重要，或者两者都有。这也是让撰写批评Anthropic声明的博物学家Lucas Harrington所担忧的部分。他总结时提出建议：他说，人工智能公司应该“现在便设定高标准，以便当人工智能真正发现一种全新的生物学机制时，大家可以意识到这一切有多么重要。”然而，随着OpenAI的Sam Altman和Anthropic的Dario Amodei相互竞逐，提高人工智能在科学突破中的标准可能并不是他们心中首先考虑的事情。