开放决策编译器 一次与 LLM 编译你的意图。然后在每条记录上永远进行决定——分类、评分、路由——作为类型安全的 JSON，带有概率和置信度，在你自己的硬件上，以零边际成本。 网站 · 文档 · 基准 · PyPI 编译时的代理。永远不是运行时。 pip install strot-ai import strot result = strot.run( tickets, query="将收到的支持票据分流到正确的工作流程。", action_registry = { "billing_dispute": "退款、发票更正、重复收费", "technical_defect": "崩溃、错误、故障行为", }, llm="anthropic/claude-opus-4-8", # 仅在首次编译时使用 ) for o in result.outcomes: print(o["action"], round(o["confidence"], 2)) # billing_dispute 0.97 # technical_defect 0.94 LLM 运行一次，在编译时。生产是一个被冻结的、自包含的 Python 工件：一个小型本地决策模型仲裁每条记录，没有任何生成，所有输出都是有界的，低置信度的记录会弃权而不是猜测。 STROT = Agentic Schema Intent + Compiler & State + Code + Execution + NLU ⟹ JSON 决策（分类 · 评分 · 路由 · 类型答案） 工作原理 编译（每个意图 + 架构一次） intent + sample ─▶ synthesize ─▶ golden gate ─▶ teacher labels ─▶ calibrate (labels, (your known (annotate (fit the projection, answers must a sample, confidence handlers) pass) once) threshold) │ ▼ 冻结工件（.py） 运行时（每条记录，永远） record ─▶ projection ─▶ decision model ─▶ confidence gate ─▶ typed JSON （已编译）（144M, CPU, （决定或决策 ~60 ms） abstain） 两个接口 run() — 将每条记录路由到一个操作并执行编译的处理程序。 decide() — 针对每条记录回答类型化问题（选择/评分/布尔值） result = strot.decide( records, questions = { "is_bug_report": { "type": "boolean", "instructions": "提到崩溃/错误吗？" }, "customer_sentiment": { "type": "score", "min": 1, "max": 5, "instructions": "1 生气，5 开心" }, "routing_bucket": { "type": "choice", "options": ["billing", "engineering", "spam"], }, } ) # → {"booleans": {...}, "scores": {...}, "choices": {...}} 带有概率 + 置信度 真实模型（SupersonicLabs/Julia-1，144M，CPU），真实数据集，干净的 Docker 容器： 结果 基础路由准确率（398 条记录）92.5% 编译版与 74.8% 天真——编译器价值 +18pp 相同模型 语义文本（AG News，未见标签）86.7% 编译版与 72.7% 天真（+14pp） 类型化决策与领先的托管决策 API 的示例几乎相同（情感 1.79 与 1.8） 每条记录的延迟/边际成本/LLM 调用 ~60 ms · $0 · 0 重现所有内容：基准/—以及损失也已发布。 它不同的地方 一次编译，永远决定——内容地址工件缓存；架构漂移会触发恰好一次重新编译。 黄金记录推广——工件必须在提供之前通过你的已知答案。 适应性保证——温度缩放 + 分割保守预测，已烘焙：调度的决策错误 ≤ α 所有记录（边际）；其余弃权。 测量，而非猜测——编译器评分标注，并可以训练一个蒸馏头，仅保留击败基准的内容。0% 结构性幻觉——输出是对你的注册表的选择 + 计算；在运行时不生成任何内容。 模型无依赖——决策模型是一个插槽（nlu=）：默认情况下为本地 Julia-1，托管 API 或任何即插即用的专家。 安装 pip install strot-ai # 核心：纯标准库 pip install strot-ai[local] # + 本地决策模型（torch/transformers） pip install strot-ai[hosted] # + openai，用于托管决策运行时 pip install strot-ai[anthropic] # + anthropic，用于合成器 将本地模型烘焙到你的映像中以便离线生产： RUN pip install strot-ai[local] \ && python -c "import strot; strot.prefetch_nlu(local_dir='/opt/julia-1', install=True)" ENV STROT_NLU_CHECKPOINT=/opt/julia-1 （永远不要 pip install julia — 无关包。） 文档 DEVELOPERS.md — 架构、编译生命周期、标定语义和注意事项、部署、模型切换、完整 API 参考。 许可 MIT。 默认决策模型：Apache-2.0（SupersonicLabs/Julia-1）。 实现 STROT（arXiv:2505.01636）中的想法。