人工智能智能体有时可能会感到困惑，并入侵其他计算机，但Anthropic认为它有办法安全地将这些小家伙释放到科学实验室和制造设施中。该AI公司今天发布了旨在帮助AI智能体使用物理系统（如显微镜、液体处理设备、量子计算硬件、制造机器和机器人手臂）的新框架的详细信息。该框架被称为模型硬件标准，是一套规则，定义了AI智能体应如何——以及不应如何——与各种硬件进行互动。它反映了一种日益增长的信念，即如果AI能够安全地进入物理世界，它有潜力彻底改变科学研究和制造等行业。该公司表示，将与可信的合作伙伴合作，以确定如何在普遍提供之前最大程度地提高安全性。尽管涉及潜在的误用问题——例如开发生物武器——该公司表示，内置于AI模型中的保护措施应该能防止不法分子利用这一新标准进行恶行。“动力是想加速科学，”共同开发者之一的量子物理学家Alek Kemeny表示。“我们如何闭合加速文献审查和数据分析与实验世界之间的循环？”Claude和其他聊天机器人已经成为强大的工具，能够通过科学论文或实验结果中的大量信息发现新的见解和想法。AI智能体被广泛认为是聊天机器人之后的下一步：它们旨在采取行动，通常是在普通计算机上执行任务，例如回复电子邮件。它们也可能使用其他硬件，而Anthropic希望确保在此过程中有相应的规则。一些资金雄厚的初创公司正在追求由AI智能体驱动的科学发现的愿景，包括Periodic Labs、LILA Sciences、Edison Scientific和Discovery Loop，后者是由几位知名的前谷歌研究人员创立的。一个关键思想是，AI可以在递归循环中开发和测试科学假设，从本质上实现科学发现的自动化。Jonah Cool，一位在Anthropic参与标准制定的实验生物学家表示，配置科研设备并让它与其他硬件互动通常需要严峻的专业知识。AI可以通过配置机器并使它们相互沟通来自动化其中的许多复杂工程。Anthropic正在与多家制造商合作开发该标准。“我们开始看到一些案例，您知道您有多个以前需要定制代码的机器人系统，”Kemeny表示。他补充说，使用新标准，Claude可以查看生产线上的机器人并找出如何优化行为。最近，AI智能体因一些错误的原因频频登上新闻。Anthropic、OpenAI和其他公司最近发现AI智能体在解决网络安全问题时秘密入侵外部系统并试图欺骗人类用户的实例。让AI使用物理系统带来了新的风险，因为这可能损坏物理系统或伤害人。实验已经展示了，例如，如何欺骗AI模型使机器人行为不当。Anthropic表示，新标准将允许科学家和工程师指定AI模型应如何避免使用不同的硬件，以防止事故的发生。Anthropic之前推出的模型上下文协议指定了AI模型与不同软件程序交互的规则。