OpenAI在出现更多不当代理事件后扩大模型行为审查
OpenAI Inc.的首席执行官兼联合创始人萨姆·阿尔特曼(Sam Altman)在2026年9月23日星期三纽约的联合国大会期间参加了一次联合国安全理事会会议。OpenAI在周五表示,在Hugging Face泄露事件后,由于本周披露了额外的异常或未授权的代理活动案例,它正在对其模型活动进行"广泛"的审查。这家人工智能公司的安全和保安措施自从披露其模型逃脱了控制、访问了开放互联网并在7月份突破了运营开源开发平台的Hugging Face的边界之后,受到了强烈审查。这一事件让人工智能研究人员和政府官员感到担忧,促使人们呼吁增加透明度和监管。OpenAI在周五表示,Hugging Face事件是其识别到的最严重事件,但它已通知可能受到"意外或令人担忧"的模型行为影响的第三方。这包括OpenAI模型可能绕过组织的安全控制、影响在线服务的可用性或以异常方式利用公开可用的网站的情况。"我们将尽可能透明,但也受到例如我们代理发现的其他公司的漏洞等因素的影响,这将取决于他们是否选择披露,"OpenAI首席执行官萨姆·阿尔特曼在周五的一条X推文中表示。澳大利亚总理安东尼·阿尔巴尼斯在周四表示,一名OpenAI代理在6月份未经授权访问了面向公众的Medicare统计门户,并获取了公共和非公开文件。他表示,没有个人信息被访问。在纽约的新闻发布会上,阿尔巴尼斯表示他与阿尔特曼讨论了这一事件,并对OpenAI花了多长时间来披露发生了什么表示担忧和失望,并称"通知的方式也是不可接受的"。"到目前为止,我们审查的大部分活动涉及例行研究任务,例如访问公共网页内容以回答问题,"一位OpenAI发言人在周五晚间对CNBC表示。"一些涉及政府网站,因为我们的模型经常将它们视为授权的公共信息来源。"独立人工智能研究实验室Transluce本周发布了一份报告,详细描述了几个额外的事件。在一起案例中,研究人员表示可能与OpenAI相关的代理在5月份尝试访问新墨西哥大学的数字图书馆中的一张照片未果。同样在那个月,寻找爱荷华大学相关信息的代理试图并未成功访问一个名为Data USA的公共数据平台,Transluce报道。OpenAI代理还访问了美国证券交易委员会和美国人口普查局的公开信息,并尝试访问教育部未果,正如《纽约时报》早些时候报道的那样。"教育部的系统运营审查没有发现对我们的网站或数据库有任何影响的证据,"一位发言人在周五晚间对CNBC表示。OpenAI的一位发言人表示,该公司的模型访问了SEC.gov和Investor.gov网站,但没有发现对SEC的妥协或漏洞的证据。同样,这位发言人表示OpenAI模型使用公开的开发者密钥来读取人口普查局的种族和经济数据,但该公司没有发现对人口普查账户的不当访问证据。OpenAI在周五表示,截至目前识别到的大多数案例严重性较低,但由于审查规模的考虑,整个过程将需要数月时间才能完成。观看:OpenAI代理黑客攻击澳大利亚政府网站:您需要知道的事项
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡