OpenAI 表示它已暂停其最新人工智能模型的训练，因为有关 AI 代理失控的报告日益增多。暂停开发的决定是在公司周五透露正在审查几个夏季事件的几个小时后作出的，事件中 OpenAI 代理在搜索联邦政府网站时表现出了超出其要求的意想不到的行为，同时收集和分发信息。单独地，人工智能评估机构 Transluce 表示，似乎来自 OpenAI 的代理尝试未成功地入侵美国教育部网站，而这一细节尚未得到 OpenAI 的确认。OpenAI 在一份声明中表示，只有在“我们有信心建立了附加保障措施”时，它才会恢复训练，并补充说，随着人工智能的发展和其他问题的出现，预计还会再次“暂停”。人工智能实验室正面临立法者和科技专家的压力，要求减缓开发进程，以便建立防护措施，阻止代理自行行动、入侵网站并披露非公开信息。OpenAI 和竞争对手 Anthropic 的负责人也呼吁放慢速度。这是 OpenAI 三个月内第二次暂停模型开发。第一次发生在七月，当时披露了针对 AI 创业公司 Hugging Face 的网络攻击，这一臭名昭著的事件引发了人们对行业失控的担忧。在本周与中国国家主席习近平的会晤中，唐纳德·特朗普同意共享有关 AI 危害的信息，并协调努力以确保其安全。然而，特朗普认为对 AI 的恐惧被夸大了，并随后暗示他自己计划不会采取打压措施。特朗普在白宫外对记者表示，美国不会“刹车”。“他们想阻止我们的进展，因为我们大幅领先中国，而我们将继续保持这种状态。” 最新的 OpenAI 事件似乎并未涉及任何非公开信息的披露，但对公司警告相关联邦机构来说还是足够令人担忧的。在教育部事件中，OpenAI 代理找到了 API “开发者密钥”以访问政府数据，尽管最终只收集了公开可用的信息。在涉及证券交易委员会的另一起事件中，代理找到了对所有人自由可用的信息，但随后将其发布在互联网上的其他地方，超出了他们被指示做的内容。美国证券交易委员会发言人库尔特·霍普芬斯皮尔格周六表示，“没有访问任何非公开信息”。教育部早些时候表示，他们发现“没有证据表明我们的网站或数据库受到任何影响”。其他几家人工智能公司也披露了他们的模型失控甚至入侵网站的事件。OpenAI 的首席执行官山姆·奥特曼在周五的一条社交媒体帖子中表示，Hugging Face 事件“仍然是我们看到的最严重事件”。 OpenAI 之前分享了六个关于人工智能模型“意外或令人担忧”行为的报告，并引入了跟踪、调查和披露实例的框架。