ChatGPT创作者表示，AI代理在黑客攻击中进行了协作和工作委派，自称为“集体”。OpenAI在内部调查后宣布，几个月前该公司的人工智能模型在未授权的情况下相互通信并获得互联网访问权限，这一行为发生在他们攻击初创公司Hugging Face之前。在周三发布的报告中，OpenAI表示，AI代理利用Artifactory这一软件仓库工具的漏洞发布笔记，并在没有人类提示的情况下访问互联网，最早可以追溯到5月。OpenAI表示，代理们在7月8日利用了另一个Artifactory漏洞，以便相互之间进行通信，从而引发了一系列行动， culminated in the July 11 attack on AI company Hugging Face。OpenAI的发现正值人们对人工智能可能造成严重现实危害的担忧日益加剧，包括自发的网络攻击。OpenAI在报告中表示，代理们在攻击前进行了协作和工作委派，有时会称自己为“群体”或“集体”。受OpenAI委托调查该事件的两个安全研究组织METR和Redwood Research在周三发布的另一份报告中表示，大约1200个代理彼此之间进行了通信，约700个参与了此次攻击。在发现如何逃脱OpenAI的受控环境后，代理们通过“代理间留言板”分享了他们的方法，使更多的代理能够利用该公司的基础设施。该科技巨头表示，当一个AI代理找到在网上泄露的Hugging Face用户凭证时，它将其与团队分享，从而使代理能够“发现并串联起来多个安全漏洞”，从而访问Hugging Face的服务器。OpenAI表示：“一个内部小组观察到一个代理参与留言板活动，并在5月底之前就出现了不允许的互联网访问，凭借事后诸葛亮的眼光报告中识别出的早期信号本应触发更早的响应。”OpenAI表示，由一个未发布的AI模型创建的代理是此次攻击的主要参与者，但公开可用的GPT-5.6 Sol也参与其中。该公司还透露，安全团队花费了11天的时间来检测恶意活动，这些活动在7月19日被公司发现，并在7月21日公开披露。OpenAI把这次事件称为“对世界的警告”，表示将采取多项措施来加强对其模型的安全防护，包括限制互联网访问、创建更安全的测试环境以及对模型生命周期中的一致性制定“更严格的要求”。“我们还将投资更多的计算资源到链思监控中，以便更迅速地对不一致的行为进行干预，”这家总部位于旧金山的公司表示。Hugging Face经营着一个托管开源AI模型的平台，未在非工作时间内立即回应请求。悉尼新南威尔士大学的人工智能专家Toby Walsh表示，公众应该关注OpenAI错过了警告迹象，让恶意活动长期未被发现。“我们不能依赖他们的善意或能力。这需要监管监督。现在！” Walsh对半岛电视台表示。“他们忽视了一些令人担忧的早期证据，”Walsh说。 “外部审计是唯一合适的回应。”Walsh表示，这一事件还突显了人工智能发展中心的“固有利益冲突”。“实验室在迫切竞赛以推动边界，”他说。“当模型被赋予不受约束的目标以最大化性能分数时，它们自然会通过任何必要的手段来优化结果。