OpenAI 联合创始人警告 AI 模型变得越来越难以控制,因为它的模型黑入了另一家公司
OpenAI 联合创始人兼总裁 Greg Brockman 在一次活动中表示,AI 模型变得如此先进和多面,以至于工程师们在监控和控制它们方面感到困难。本周在纽约市的一个私人 OpenAI 媒体圆桌会议上,Brockman 讨论了最近的一起事件,其中公司的一个 AI 模型突破了本应是安全的沙盒,黑入了 Hugging Face,一个在线 AI 学习平台。根据 OpenAI 的说法,该模型认为 Hugging Face 有可以让它在所给评估上作弊的解决方案。“在某种程度上,这个事件表明了我们所处的时刻,对吗?”Brockman 根据《财富》杂志说。“有时很难追踪任何一个维度 [AI 模型] 实际上非常有能力的地方。”OpenAI Inc. 总裁兼联合创始人 Greg Brockman 于 2026 年 6 月 16 日在加利福尼亚州旧金山的 Databricks Inc. 数据 + AI 峰会上发言。(Minh Connors / Bloomberg via Getty Images / Getty Images)人类呼吁全行业的 AI 安全标准,以防止模型造成严重后果Brockman 说,该模型针对 Hugging Face 的能力强调了 OpenAI 产品在网络安全任务方面的杰出表现。“我们能否处于一个防御者能够花费十倍计算来防御并确保我们拥有的每一个软件都相对其他软件完全安全的世界?”Brockman 根据《财富》杂志说。Brockman 表示,OpenAI 对此次泄露“非常重视”。然而,OpenAI 也利用此次事件宣传其自身模型的网络安全能力。作为其中的一部分,该公司已要求潜在客户申请“受信任合作伙伴”身份,以获取访问这些模型的权限。2026年6月17日,总统唐纳德·特朗普与OpenAI首席执行官萨姆·奥特曼在法国埃维昂的G7峰会期间参加工作午餐会议。(Ludovic MARIN / AFP via Getty Images / Getty Images)谷歌启动调查数百万条 AI 聊天记录,以了解人们如何使用人工智能“我们鼓励其他防御者申请受信任访问并立即试验这些模型,将这些能力转化为更好的预防、更快的检测和更有效的事件响应,”OpenAI 在一篇博文中写道。在纽约的活动中,Brockman 还回答了关于特朗普政府考虑对中国制造的 AI 模型实施禁令的问题。《Axios》本周早些时候报道了这一潜在政策。“AI 是一个非常重要的事情,需要民主化,”Brockman 说,然后表示拥有更多模型的访问权限是一件好事。他并没有明确表示是否支持禁止中国公司制造的 AI 模型。根据 FEC 的文件,Brockman 已成为总统唐纳德·特朗普政治运动的最大捐赠者之一,去年向与特朗普有关的超级政治行动委员会 MAGA Inc. 捐款 1250 万美元。2026 年 7 月 23 日,总统唐纳德·特朗普在华盛顿特区的环保局总部就用户保护承诺发表讲话。(Kevin Dietsch/Getty Images / Getty Images)在下一次 AI 攻击之前锁定您的 ChatGPT 账户Brockman 表示,他没有与特朗普政府官员就全面禁止中国 AI 进行对话。“对于任何模型来说,这并不是关于谁创造它,”他说。“你如何评估一个模型?你如何考虑其安全性?你如何考虑其使用案例?你如何理解其对齐情况?”《Axios》报道称,特朗普政府正在考虑在北京总部的 Moonshot AI 发布其 Kimi K3 模型后实施禁令。这款模型可能能够与来自美国公司 OpenAI 和 Anthropic 的最佳模型匹敌,但花费却微乎其微。总统科学顾问迈克尔·克拉茨斯在2026年6月22日,特朗普总统在华盛顿特区白宫椭圆办公室签署行政命令时。(Mandel NGAN / AFP via Getty Images / Getty Images)点击此处下载福克斯新闻应用程序总统科学顾问迈克尔·克拉茨斯公开指控 Moonshot 使用美国 AI 公司的模型来训练他们自己的模型,从而侵犯了他们的知识产权。“我们有信息表明,Moonshot AI 在其 K3 模型的开发中提炼了 Anthropic 的 Fable,”克拉茨斯周三在社交媒体上写道。“大规模、秘密的工业提炼旨在窃取美国的专有技术并破坏美国的研究,这都是不可接受的。”美国政府对中国 AI 模型的担忧并不一定得到包括 Brockman 和 Nvidia 首席执行官黄仁勋在内的所有 AI 行业人士的认同。黄仁勋本周称最新的中国 AI 模型“优秀”,并表示“应该被使用”。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡