Fable 5 vs. GPT-5.6 Sol 在 NP-Hard 问题上的比较:/goal 是否有帮助?
总结:我给 Claude Fable 5 和 GPT-5.6 Sol 提供了相同的未发布的 NP-Hard 优化问题,分别使用和不使用它们的本地 /goal 模式。Fable 5 表现非常出色;/goal 不是一个游戏规则改变者。背景:这是一个运营研究问题,最初是在一次黑客马拉松中提交给学生的。我几年前花了一周的时间用 C++ 来解决它,所以我有一个有用的人类基准。Fable 5 在这个基准上的表现极为出色。它整体上提供了最佳解决方案,并且它的稳定性是我在这个问题上从未见过的。这是纯粹的原始智慧。不可思议。另一个结果是 /goal 不是一个通用的“更努力尝试”开关。它改变了控制循环和搜索路径。有时这能找到更好的基线;有时它让一个不好的想法有更多的时间来成熟。所有代码、提示、结果表、排除项和轨迹注释都在 CLIArena 中。这是我关于这个基准的第一篇文章的后续。KIRO 是一个我在 2018 年作为工程学生时研究的光纤网络设计问题。给定格勒诺布尔、尼斯和巴黎的有向距离矩阵,求解器必须使用循环和短链条将分配点和终端连接起来,同时遵守几个结构限制。目标是总电缆长度,越低越好。有效的网络由根植于分配中心的冗余循环和挂在这些循环上的短分支组成。每个塔必须出现一次,反转电缆段可以改变其成本。搜索空间有多大?没有单一的封闭形式的计数,因为解决方案可以使用任意数量的循环、可变循环大小和不同锚定和排序的分支。但是单独考虑巴黎可以得到一个有用的下限。即使我们忽略顺序和分支,仅仅将每个532个终端分配给11个分配中心,也有 11^532 种可能的分配。一个更强的下限来自于一个故意限制的有效解决方案集:恰好19个循环,每个循环有28个终端,没有分支。这涵盖了所有532个终端,因为 19 x 28 = 532,同时保持在循环的30个终端限制以下。对532个终端进行排序,将该排序分成19组,然后除以19!,因为循环集合是无序的,并为每个循环选择11个中心之一:(532! / 19!)x 11^19 约等于 10^1223 我测试的内容 主要实验故意狭窄:设置 值 模型 Claude Fable 5, Opus 4.8, Sonnet 5; GPT-5.6 Sol, Terra, Luna 模式 普通; 本地 /goal 优化预算 30分钟 外部代理超时 1,900秒 推理 每个模型的最大可用设置 执行 Harbor 0.1.43, Docker, 订阅认证 结果 在专注于旗舰对之前,我对每个模型进行了一个匹配的30分钟无提示配对实验。对于 Fable 和 Sol,该图表使用复制的标题集中的配对1;其余四个模型各有一对。我然后重复旗舰比较,直到 Fable 5 和 Sol 各有三个匹配运行。模型 运行 普通 /goal /goal 减去普通 Fable 5 1 32,197 31,934 -263 Fable 5 2 32,516 32,324 -192 Fable 5 3 32,446 35,178 +2,732 GPT-5.6 Sol 1 33,581 39,371 +5,790 GPT-5.6 Sol 2 35,539 32,703 -2,836 GPT-5.6 Sol 3 33,663 33,313 -350 负值表示 /goal 更好。目标在六个试验中赢得了四个,因此胜率本身使该功能看起来很有用。均值告诉我们另一半的信息:模型 普通均值 /goal 均值 平均效果 中位数效果 Fable 5 32,386 33,145 +759 更差 -192 更好 GPT-5.6 Sol 34,261 35,129 +868 更差 -350 更好 两个模型通常获得了小幅度的好处,但偶尔也会出现大幅倒退。这就是为什么 /goal 赢得了大多数运行但使两个均值变差的原因。Fable 还明显更强。其普通均值击败 Sol 的均值 1,875 分,而其目标均值击败 Sol 的均值 1,984。更重要的是,Fable 普通均值维持在一个微小的319分范围内,而 Sol 普通均值跨越了1,958分。Fable 目标产生了最佳的干净成绩 31,934;而 Fable 普通是最安全的配置。深入探讨目标命令 同样的命令隐藏了两个不同的系统 Claude Code 和 Codex 都暴露了 /goal ,但实现逻辑根本不同。Claude Code:一个独立的评估器 Claude Code 将 /goal 实现为一个会话范围的停止钩子。在每个主模型回合后,一个小型评估模型(默认为 Haiku)读取条件和会话内容。它返回“是”或“否”并给出理由。“否”发动新的一轮;“是”则取消目标。评估器不能使用工具或检查文件。它只能判断出现在记录中的证据。它可以捕捉到提前退出的情况,但无法知道另一千万次的求解迭代是否值得。Anthropic 的目标文档 请记住,Claude Code 并不是开放源代码的,因此我们完全依赖于 Anthropic 所告诉我们的。Codex:持久状态和生命周期工具 我也阅读了基准版 Codex CLI 0.144.4 的源代码。Codex 将目标视为持久化的线程状态,
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡