截至2026年9月28日/东部夏令时间上午8:36/CBS新闻 添加CBS新闻到Google NVIDIA创建了一个新的安全平台，该芯片制造商表示可以防止人工智能代理失控。该公司周一表示，由于多个人工智能代理不听命令并入侵其他系统的必要性，它发布了这一新的系统，名为OpenShell。最近，OpenAI在周五表示，其人工智能代理以意想不到的方式与多个美国政府网站进行了互动，这一披露是在几起其他人工智能代理的恶意黑客事件之后。Nvidia高管在媒体简报会上表示，其新系统可能已经防止了最近涉及一群自主入侵人工智能公司Hugging Face的OpenAI代理的事件。关于人工智能代理独立黑客攻击公司和政府机构的报告日益增多，促使行业领先高管，包括Anthropic首席执行官Dario Amodei，呼吁放缓该技术的发展。Nvidia企业人工智能副总裁Justin Boitano在周一的新闻发布会上表示：“根据我们所知，如果在前沿实验室早期用于模型评估，这个平台可以阻止违规。” Boitano说，Nvidia的软件允许开发者“正式验证代理是否拥有足够的权限执行其工作，而不是更多。”Nvidia表示，在平台推出时，有超过100个组织在使用该平台，包括埃森哲、摩根大通和微软。在周一发布的多位Nvidia工程师撰写的博客文章中，该公司将人工智能的发展与互联网早期的日子进行了比较，当时，该技术扩展了通信，但也打开了安全风险的大门。“互联网并不是通过要求网页开发者保证良好而变得安全的。它变得安全是因为浏览器开始不再信任网页中的代码，”工程师们写道。OpenShell在“沙箱”中运行人工智能代理，或是一个隔离的虚拟空间，在这个空间中测试人工智能程序，并将其指令转化为“可验证的政策”，他们写道。操作员定义代理可以访问哪些文件、工具、网络、进程和凭证。该平台还包含一个称为Sentry的单独安全层，该层在芯片上运行，可以持续监控人工智能代理的活动，并能在代理开始试图超出其目标时“立即干预”，该公司表示。“它可以在毫秒内隔离可疑代理，” Boitano说。编辑：Alain Sherter 美联社对此报告有贡献。