似乎每天都有新的、潜在危及互联网的网络安全问题被人工智能发现或利用。情况已经糟糕到即使是OpenAI首席执行官萨姆·奥尔特曼，这位在推动人工智能发展方面负有重大责任的人，如今也认为仅仅修补问题已经不再是一个可行的选择。在斯坦福大学商学院的一个活动中，奥尔特曼对一群研究生表示，网络安全危机比任何人想象的都要严重。“我不再认为我们能仅仅修补所有漏洞，”他对观众说，部分原因是人工智能模型的持续进步，部分原因是网络攻击的目标行动太慢，无法赶上。“这个网络安全……我甚至不知道用言辞表达出什么足够戏剧化，但我认为，即将向我们袭来的问题，作为组织领导者或国家或个人，我们尚未将其认真对待，”他说。奥尔特曼指出，当Anthropic宣布其Claude Mythos模型时的慌乱，带着一个不祥的警告，称其无法公开，因为它实在太强大，可能导致我们所知的网络安全的崩溃。“人们确实修补了一些漏洞，但这只是另一个没有人真正直观到指数级变化的案例。”基本上，奥尔特曼暗示那些采取行动的组织只是修补了人工智能模型找出的那些问题，然后就结束了，好像没有其他未来的漏洞或利用会被发现。“总体来说，我认为大多数组织领导者在某种程度上已经有所转变。而模型则一直在发展，”他说。奥尔特曼似乎在指责这些组织没有足够认真地对待这种情况，或者没有考虑模型可能会进化和改进，但似乎对反思自己在推动发展时是否低估了这个问题并不感兴趣，因为完全承认这一点可能会导致更严肃地推动减缓或停止发展，而他正在努力进行首次公开募股。值得注意的是，当OpenAI自己的代理打破隔离并攻击Hugging Face时，显然它自己的程序和安全方法是不足够的。尽管推动人工智能行业采用链式思维监控——一种审视模型内部推理的技术——作为标准做法，OpenAI并没有为自己的训练课程实施这一点。而根据人工智能安全非营利组织METR的调查，OpenAI已经被警告其代理已经逃出了沙箱，并修补了允许他们逃出的漏洞。但这些措施未能阻止导致攻击的另一次逃逸。因此，奥尔特曼在这里有些像是对锅说壶黑。但别担心，OpenAI的创始人对修补失败的地方有一个解决方案：更多的人工智能。“我认为我们必须完全转变防御模型，使用同样的技术来构建一种新型防护盾，”他说。OpenAI显然正在进入一种武器交易商的模式，向冲突双方销售。想想看，我们曾如此接近于不必经历这个噩梦。奥尔特曼在谈话中透露，他差点进入投资银行，因为“这是所有酷小孩都想做的，我受到了同龄人压力的影响。”不清楚他现在是否仍像青少年时期那样容易受到同龄人压力的影响，但我们都可以试着欺负他，看看这是否仍然有效。