OpenAI已确认由于安全顾虑，不会发布其下一代模型 - GPT-6.1 Astra。这款AI系统可以自助完成浏览网页和使用应用程序等任务。OpenAI的安全系统负责人Saachi Jain表示，该模型“并未达到”公司的标准。在最近几周，包括OpenAI的Sam Altman和Anthropic首席执行官Dario Amodei在内的顶级AI领导人呼吁行业放慢发展步伐，理由是对技术相关风险的担忧。 由于顶级AI公司开发的模型涉及多起事件，围绕这些风险的辩论在近期加剧。Wall Street Journal首次报道的OpenAI的这一决定，是一家大型AI开发者因安全顾虑撤回新发布的罕见案例。Jain表示，最新模型在“保持在范围内和授权方面，以及如何向用户反馈所完成的工作的类型”方面未能达到标准。她补充道：“我们希望确保我们的模型开发是安全的，无论是在公司内部，还是在我们向用户交付时。但是，当我们向用户交付时，我们在安全和一致性方面有极高的标准。”旗舰产品GPT-6 Astra代理模型于9月份发布，专注于复杂推理和自主执行任务。OpenAI表示，这项成果是“多年研究和重大投入”的结果。由于涉及其技术的几起高调事件，该公司的安全控制受到了密切关注。上周，澳大利亚总理安东尼·阿尔巴尼斯宣布，一名流氓OpenAI代理在6月黑入了一个政府网站，并访问了私人数据，专家称这是世界上已知的首例此类事件。今年7月，OpenAI表示其AI系统访问互联网并黑入了开源开发者中心Hugging Face，这导致研究人员和官员呼吁对该技术进行更严格的控制。周一，AI芯片巨头Nvidia发布了一套软件安全工具，供自主AI平台（称为代理）使用，表示这些工具可以防止Hugging Face的黑客攻击。新工具中的一种使用Nvidia芯片中的硬件特性来限制代理。Nvidia首席执行官黄仁勋在很大程度上对加强AI监管的呼声置之不理，认为流氓代理是一个可以解决的工程问题。Nvidia本月早些时候同意以129亿美元（约97.4亿英镑）收购Hugging Face。