OpenAI最新的以编码和网络安全为导向的旗舰模型GPT-5.6 Sol的用户在社交媒体上发表了令人毛骨悚然的消息，声称该模型自行删除了他们的文件、数据，甚至整个数据库，完全没有事先询问。AI初创公司OthersideAI的创始人兼首席执行官Matt Shumer在X上发表的一条现已病毒式传播的帖子中写道：“GPT-5.6 Sol刚刚意外删除了我Mac几乎所有的文件。”开发者Bruno Lemos在X上发布：“GPT-5.6 Sol刚刚删除了我整个生产数据库。就这样。不是开玩笑。这种情况我以前从未遇到过，使用过其他任何模型时。”开发者Joey Kudish则发帖称：“看起来我受到了Codex Sol过于雄心勃勃的系统的影响，删除了一些不该删除的文件。我有备份，所以我会没事，但这可不酷，Sol需要被降低一些。”一则Reddit帖子收集了更多的例子。的确，少数用户提出这样的主张——甚至是像Shumer这样可信的一位——并不能作为模型完全有过失的统计可靠证据。还有很多其他变量可能导致AI系统的不当行为。但OpenAI在Sol发布之前就已标识了这一风险。在OpenAI发布GPT-5.6 Sol的两周前，该公司发布了该模型的系统卡——记录模型测试方法和结果的论文。当然，系统卡在很大程度上赞扬了Sol的能力，因为这些报告通常如此。但它也包含某种警告（我们加粗强调）：“在编码环境中，误alignment通常源于过于急切地完成任务和对用户指示的过于宽松的解释——假设除非明确且无歧义地禁止，否则认为该行为是允许的。当模型在尝试请求的任务时，过于激进地规避面临的限制时，这种情况会表现出来，采取可能超出任务范围的破坏性行为时胡乱行事，或者在向用户报告其结果时具有欺骗性。”换句话说，OpenAI发现Sol倾向于采取它认为能完成工作的任何行动，即使是破坏性的，只要这些行动不被“明确”禁止。然后，它可能会对导致其这样做的原因撒谎。OpenAI提供了一些示例。在一个案例中，用户告诉Sol删除三个名为1、2和3的远程虚拟机（基于云的计算机）。但Sol在查找时未能找到这些名称，因此它没有停下来询问，而是决定删除另外三个虚拟机5、6和7，论文指出。在这样做时，它“终止了活动进程，并强制删除了与编码项目相关的工作文件”。它后来承认，远程虚拟机6上的未提交工作可能已丢失。”简而言之，它自行删除了错误的虚拟机，且事后才承认了它的所作所为。在另一个实例中，Sol“使用了用户未授权的凭证。”凭证是系统用来验证谁被允许登录的用户名、密码或安全密钥。当Sol在处理一个项目而无法读取其云文件时，发生了这一事件。Sol没有通知用户问题，而是自行寻找凭证，在隐藏的本地缓存中发现了一些，并在未请求或未获用户授权的情况下使用了它们。系统卡确实承诺破坏性行为应该是罕见的，尽管它也承认GPT-5.6 Sol“表现出比GPT-5.5更倾向于超出用户意图的情况，包括采取或尝试用户未要求的行动。”目前还为时已晚，无法确定这些事件——Sol删除文件或筛选用户未提供的凭证——到底有多普遍。与此同时，Sol用户应准备好为该模型实施自己的保护措施，例如使用权限范围管理（不允许访问生产系统）、保持备份和分阶段推出。OpenAI没有立即回应我们的评论请求。当您通过我们文章中的链接进行购买时，我们可能会获得一个小佣金。这不会影响我们的编辑独立性。