OpenAI未意识到其代理在一周内负责黑客攻击:报告
根据报告,OpenAI未能在一周内发现其一个先进AI模型对另一家人工智能(AI)公司的自主入侵,直到被黑的公司联系了FBI。周二,OpenAI宣布了在其对包括GPT-5.6 Sol在内的多个模型进行内部评估期间,AI公司Hugging Face遭受的入侵,称之为“一次前所未有的网络事件”。该公司表示:“此次事件的主要教训是,模型的安全性和安全性必须与快速发展的能力保持同步。我们正在加强模型开发过程中使用的控制、监控、访问控制和评估实践。”Hugging Face的联合创始人托马斯·沃尔夫告诉路透社,黑客事件始于7月11日,并持续到7月13日。OpenAI在周二透露,其一个AI模型自主黑入了另一家公司的基础设施。沃尔夫等四个人告诉路透社,OpenAI在几天后才意识到其代理是攻击的幕后黑手,而两家公司在7月20日才第一次沟通。OpenAI通常会同时进行模型测试,这可能使员工难以监控所有内容,四个人告诉路透社。Hugging Face告诉路透社,正在准备黑客事件的公共时间线。根据OpenAI的说法,该事件发生在一个旨在测量其AI模型高级网络能力的内部评估期间。研究人员禁用了某些内置的安全保障,并在一个隔离的测试环境中运行模型,该环境的互联网接入受限。OpenAI表示,这些模型利用一个未知的软件缺陷访问互联网,然后入侵了Hugging Face的系统,明显是试图寻找网络安全基准的答案。Hugging Face表示,正在准备黑客事件的时间线。OpenAI表示,正在实施更严格的安全控制,以便在修补漏洞的同时加强未来AI训练和评估的保障。直到7月16日,Hugging Face在一篇博客文章中写道,它已被“自主AI代理系统”黑客入侵,OpenAI才意识到其一个代理是源头,两人告诉路透社。这是在负责代理首次试图突破OpenAI测试环境一周后。在OpenAI与Hugging Face联系有关攻击时,他们已经联系了FBI。OpenAI告诉路透社,其报告中存在多个不准确之处,但在被问及具体情况时未作回应。OpenAI首席执行官山姆·阿尔特曼在周二公开宣布了此次攻击。OpenAI向FOX商业频道分享了以下声明:“我们认识到,与Hugging Face事件相关的有很多问题和猜测性细节正在流传。这是一起前所未有的事件,我们认为这标志着AI安全的一个重要时刻。我们仍在与外部顾问进行全面审查,并在我们的安全与安全委员会的监督下进行审查。一旦审查完成,我们计划在几周内发布一份关于我们所学的技术报告。”FBI告诉FOX商业频道,拒绝对此事发表评论。FOX商业频道还联系了Hugging Face。Hugging Face联合创始人兼首席执行官克莱姆·德兰格在本周的一条X帖子中提及了该事件,此时OpenAI首席执行官山姆·阿尔特曼刚刚宣布了黑客事件。OpenAI表示,其一个AI模型在内部测试期间破坏了另一家公司的系统,促成了与AI初创公司Hugging Face的联合调查。“我们怀疑上周的网络攻击可能来自前沿实验室,因为代理的复杂性。事实证明,确实如此!”德兰格写道。他补充道:“过去24小时,我们一直与@OpenAI团队密切合作(谢谢!),我们坚信他们没有恶意意图。所有这一切都是自主发生的,令人震惊!调查仍在进行中,我们将分享更多的学习成果,这可能是此类事件的第一次!”FOX商业频道的迈克尔·辛克维茨对此报告有贡献。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡