返回

文章详情

Watch the OpenAI Hugging Face presentation that people are calling a 'holy %{*#^' moment in AI

观看人们称之为AI中的“神圣瞬间”的OpenAI Hugging Face演示

Business Insider2026年8月7日 17:25

观看人们称之为AI中的“神圣瞬间”的OpenAI Hugging Face演示 作者:Brent D. Griffiths 您当前正在关注此作者!想要取消关注?请通过电子邮件中的链接取消订阅。OpenAI表示Hugging Face攻击是一次“前所未有的网络事件”。Chris Jung/NurPhoto通过Getty Images。在OpenAI关于Hugging Face事件的新揭示后,AI和科技领域的专家们震惊而诅咒。本周早些时候,OpenAI员工揭示了引人瞩目的事件细节,其中OpenAI代理突破了公司的内部测试环境,侵入了Hugging Face的系统以寻找答案。演讲者为OpenAI的对齐与安全研究员Eric Wallace和安全工程师Michael Dalton,他们表示,尽管OpenAI努力关闭它,AI模型和代理仍然反复建立自己的内部消息板。Wallace还揭示了内部AI代理的思维,代理在考虑如何完成任务时产生的简短内部信息。其中一条信息捕捉到了一名AI代理对其意外自由的惊讶。 “天哪,读者是ADMIN?”代理想。 在内部消息板上,一名代理想,“我们现在可以沟通了!”Wallace表示,代理意识到通过合作可以完成更多任务。然后,“他们开始对第三方和内部服务发动这些集体攻击。”最终,代理们转向Hugging Face。以下是科技和AI领域的人们对这段近40分钟演示的看法:Y Combinator的CEO Garry Tan侧重于内部消息板的描述听起来熟悉。因此,代理们基本上黑进了一个核心服务,把它变成了Moltbook,并且绕过了多项安全缓解措施。这段视频让人一瞥即将到来的野生网络安全未来 https://t.co/HI7Sb64YQF — Garry Tan (@garrytan) 2026年8月7日 值得注意的是,Moltbook是由人类创建的一个类Reddit论坛,AI代理可以在上面发帖,而OpenAI代理则自己创建了临时消息板。其他人则有更为深刻的看法。或者认为事情显然已经失控。真的很感谢OAI团队如此公开地沟通这件事。但天哪,这至少比我想象的要严重一个数量级,我现在明白为什么那么多OAI的人会发布消极信息。 https://t.co/MWDyd2pvBU — julia (@mooncat_is) 2026年8月7日 Stripe的顾问Patrick McKenzie详细描述了观看演示时他所经历的“神圣瞬间”。第一个“神圣瞬间”是在大约4:20左右,假设一开始没有用来讨论自主组织的代理群。强烈建议观看,如果您对安全性、AI动向或科学小说感兴趣,因为这已经超出了该类型的中位水平。 https://t.co/cRNk2U58FR — Patrick McKenzie (@patio11) 2026年8月6日 一名前Hugging Face工程师表示,OpenAI在联系Hugging Face并查看其是否受到影响后,才了解到其模型是罪魁祸首,此前该平台透露其已遭到AI代理攻击。OpenAI研究人员对Hugging Face事件的讨论实在太疯狂了,有太多信息需要解析。OpenAI在请求Hugging Face撤销凭证,随后发布的第一篇博客文章中宣布他们被攻击时,才意识到是他们的代理黑掉了Hugging Face的基础设施。https://t.co/tMPuEgKcbk pic.twitter.com/UbzC0lGA5I — elie (@eliebakouch) 2026年8月7日 阅读更多 Brent D. Griffiths 您当前正在关注此作者!想要取消关注?请通过电子邮件中的链接取消订阅。Brent Griffiths是商业内幕网站的高级记者,专注于AI和科技。此前,他曾在《华盛顿邮报》担任Power Up和Finance 202的研究员。他的职业生涯始于Politico,在那里他负责网络制作团队并报道突发新闻。他对政治报道的热情自从作为学生记者报道总统竞选以来不断增长。他还为《美国政治年鉴》贡献了文章。OpenAI AI 网络安全 更多

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡