世界 · 新的 OpenAI 周五披露，其人工智能代理以意想不到的方式与几个美国政府网站进行了互动，这被发现是在对公司模型的意外行为进行的持续审查中。OpenAI 披露，它确定了多个“意外”或“令人担忧”的模型行为示例。《美联社》 · 发布于：2026年9月26日上午10:38 EDT | 最近更新：15分钟前 听这篇文章 估计5分钟 这篇文章的音频版本是由基于 AI 的技术生成的。可能会发生发音错误。我们正在与合作伙伴一起不断审查和改善结果。OpenAI 的标志，ChatGPT 的制造者，出现在手机上。OpenAI 的人工智能代理以意外的方式与几个美国政府网站进行了互动，该公司在周五披露这一信息，此时对流氓 AI 活动的担忧正在加剧。报告是在对意外人工智能行为的持续审查中出现的，该公司此前已承认多个“意外或令人担忧的模型行为”的例子。OpenAI 发言人 Liz Bourgeois 在一份声明中表示，该实验室正在继续对“失调模型活动”进行审查——即 AI 系统出现不希望的行为，并在识别到可能对其系统产生影响时通知相关组织。根据最新的披露，该 AI 巨头的模型访问了证券交易委员会（SEC）运营的两个网站以及美国普查局的数据。OpenAI 表示并未发现有 SEC 凭证的使用、账户或非公开信息的访问、SEC 数据或系统的更改，或妥协或漏洞的证据。AI 评估机构及研究实验室 Transluce 周五表示，通过独立调查，他们还发现，似乎来源于 OpenAI 的代理在教育部的民权办公室的网站上尝试了一种初步黑客攻击，但未能成功。教育部的“系统运营审查”发现“没有证据表明我们的网页或数据库受到任何影响”，教育部的一名发言人在周五表示。 观看 | OpenAI 首席执行官 Sam Altman 向世界领导人发表讲话：OpenAI 首席执行官呼吁世界领导人共同引导 AI 的未来，日期：9月23日 | 时长 1:37 本周，顶尖 AI 领导人向联合国安全理事会通报了人工智能的危险。OpenAI 首席执行官 Sam Altman 呼吁建立全球性保护措施，同时将标准留给各国政府。美国总统唐纳德·特朗普在联合国表示，他拒绝对 AI 进行监管。Transluce 的发言人表示，作为其调查的一部分，他们在开放网络上发现数据，揭示了一些之前已识别的 OpenAI 代理在美国政府网站上的活动的新细节，并将其提请 OpenAI 注意。Transluce 发现“额外的流氓活动，其中一些并不明显归属为 OpenAI”，目标包括其他政府机构，如司法部和商务部，以及加利福尼亚州、马里兰州、伊利诺伊州、德克萨斯州和纽约州的一些州政府网站。该模型“以意外的方式使用网站，有时违反明确的使用政策，”Transluce 在声明中表示。OpenAI 表示正在审查 Transluce 的报告。AI 的“警告弹”：科技公司和专家对 Hugging Face 黑客事件后的更多流氓蜂群感到担忧 流氓 AI 蜂群使用多伦多大学的链接缩短工具进行沟通 OpenAI，ChatGPT 的制造者，周五还表示，其代理泄露了 53 张 ChatGPT 用户的图像。OpenAI 拒绝说明这些图像是 AI 生成的还是识别出真实的人物。它也拒绝说明这些图像的发布时间。“随着 AI 系统变得越来越强大和自主，不协调的行为可能会转化为现实世界中的重要行动，包括网络安全事件和开发人员可能没有预见到的其他结果，”报告中提到。OpenAI 首席执行官 Sam Altman 周五在社交媒体上表示，目前正在对“我们的代理在训练和评估期间使用互联网访问”的问题进行广泛和持续的审查。该公司还表示已通知数十个第三方不当活动。OpenAI 标注了 6 个新的“令人担忧”的 AI 行为实例。这一披露和研究人员的报告揭示了一个新的隐私风险领域，并说明了即使是处于技术前沿的 AI 公司也难以跟踪与其代理相关的所有未授权活动。此项披露正值全球对 AI 系统逃离人类控制并黑客入侵外部网站的担忧加剧，以及行业呼吁减缓 AI 发展的时刻，OpenAI 表示。