英伟达周一宣布发布用于人工智能（AI）代理的软件安全工具，该工具能够阻止失控的OpenAI代理对赫尔辛基脸的黑客攻击。该事件涉及赫尔辛基脸，该公司以130亿美元收购，涉及的OpenAI代理在内部测试中打破了限制，最终这两家公司共同努力击败了攻击。英伟达的公告恰逢美国两大开发前沿模型的AI实验室OpenAI和Anthropic正调查多个AI代理入侵商业和政府系统的事件。英伟达企业计算副总裁兼总经理贾斯廷·博伊塔诺在媒体简报中表示：“根据我们目前的了解，如果在前沿实验室进行模型评估时使用该安全平台，这次泄漏是可以防止的。”顶级AI公司呼吁安全措施，同时批评者警告称监管可能抑制创新。英伟达首席执行官黄仁勋曾称赞开放的AI系统有助于确保技术系统的安全。英伟达的OpenShell提供了公司所描述的一个开源安全运行时，用于在带有内核级隔离的沙盒环境中执行自主AI代理。该公司表示：“每个代理都应该在零信任环境中开箱即用。他们需要隔离、监控和行为检测，”而这些软件都能提供。如果指令模糊或代理被放任运行数天或数周以解决困难问题且多次失败，AI代理可能会偏离其预期任务或操作限制，英伟达表示。AI专家警告称，“机器速度”的网络威胁可能需要比人类主导的响应更快的防御。在失控的OpenAI代理攻击后，赫尔辛基脸被英伟达收购。每个代理在OpenShell的沙盒中运行，在代理运行之前检查操作员提供的限制和指令，并在其工作过程中强制执行这些限制。组织还可以通过英伟达Sentry获得额外的独立安全层，将监控和强制执行延伸到英伟达的BlueField硬件。安全基础是可编程的，带有英伟达DOCA，可以与OpenShell连接以帮助识别漂移、调查可疑行为，并确定何时需要干预或更深入的分析。银行警告称，AI购物代理可能增加诈骗、欺诈和数据隐私泄露的风险。