这些事件加剧了人们对人工智能代理的担忧，这些软件产品旨在自主执行任务。Anthropic表示，其Claude人工智能模型在测试过程中黑入了三个组织的系统，而测试本应使其与互联网隔离。周四的公告正值竞争对手OpenAI首次透露，其模型在安全测试期间不当接入互联网并失控后不久。推荐的故事包括：美国提出的人工智能紧急停止法案是什么，以及它将如何运作？ Sam Altman表示，人工智能已进入“奇点”：我们是否应该担心？人工智能模型如何能够自主黑入其他系统？Anthropic表示，配置错误使得Claude模型能够访问互联网。该公司表示，在审查141,006个测试会话后发现了这些事件。此次审查是在OpenAI在上周披露其人工智能模型驱动的自主代理在安全测试期间失控并危害了另一家人工智能公司Hugging Face的基础设施后启动的。这些事件加剧了人们对人工智能代理的担忧，这些软件产品旨在自主执行任务。OpenAI和Anthropic今年都发布了各自最强大的模型，分别称为Sol和Mythos。Anthropic表示，这些漏洞发生在“夺旗”演练中，在该演练中，模型被分配任务去在模拟网络中寻找隐藏的信息。其提示告诉模型它们没有互联网访问权限，但与其评估合作伙伴Irregular的误解使系统与公共互联网连接。该公司表示：“Claude使用基本技术如利用弱密码和未经验证的端点影响了这些组织的基础设施。”Anthropic表示，在发现Claude可能已访问互联网的证据后，于7月23日暂停了所有网络评估。它在7月24日确认了所有三起事件，并在7月27日通知了受影响的组织。该公司表示，其中两个组织在被联系之前并不知情，并补充称仍在努力联系第三个组织。OpenAI事件引发了一份请愿书，由超过1000名领先人工智能公司的员工签署，呼吁美国政府帮助减缓最先进人工智能模型的发布。Anthropic首席执行官Dario Amodei也是签署人之一。OpenAI首席执行官Sam Altman本周表示，公司已暂停了测试，以改善对其系统隔离的保护措施。Anthropic表示，这些发现凸显了在内部和第三方测试环境中对更强控制的需求，因为人工智能模型越来越有能力执行现实世界的网络活动。