介绍 Clairic,一种新的 System One 类抽取模型
今天,我们宣布了一种新的 System One 风格模型的预览:抽取模型。我们的第一个模型 Clairic 已在 Workers AI 上托管,地址为 @cf/cloudflare/clairic。我们打算很快发布该模型的开放权重。Clairic 是一种抽取模型,能够从非结构化输入中提取、计算、估算和预测值,且其准确性显著高于传统的大型语言模型,延迟更快,成本更低。 背景在一个月前,TypeSafe 宣布了 System One 模型,轰动了整个行业。正如 TypeSafe 在其博客中提到并由丹尼尔·卡尼曼的书《思考,快与慢》所定义的那样,System One 模型应该是快速和精确的,而这与能够进行深思熟虑推理的 System Two 模型(如大型语言模型)形成对比。为此,TypeSafe 推出了 Jev——一种专为特定用例量身定制的模型,并据其小众领域提供可承受的价格。它在大型语言模型失败的地方表现卓越,帮助用户基于概率和良好类型化的输出做出决策。Jev 的推出促使人们开始思考一类不是大型语言模型的新模型,以及如何将这些模型整合到他们的工作流程中。我们受到了 System One 模型概念的启发,开始思考其他大型语言模型效率低下的任务。今天,许多结构化输出的调用不断发送到前沿大型语言模型,内容几乎相同:发票总额是多少?这个是什么时候送达的?迟到了多少天?这个修理费用是多少?未来 24 小时的交通状况如何?这些问题都没有可以提前列出的答案,这对于决策模型来说是必需的,以便给出概率。这使我们引入了今天要介绍的模型类别:System One 抽取模型。 介绍 System One 抽取模型直到现在,每个 System One 模型都是一个决策模型:Jev 和 Clef 接受输入状态和问题列表,并针对输入和您列出的问题给出概率。Clairic 是一个新类别中的第一个模型:System One 抽取模型。它仍然快速、类型化且便宜,但它直接从输入中提取、计算或预测值来回答。大多数模型任务请求三种类型的输出之一:数字、固定集合中的选择或开放式文本。Clairic 处理第一种类型,返回具有 80% 置信区间的数字,并能从输入中提取类型化的值,如姓名、日期和列表。Clef 处理第二种类型:它从选项中进行选择,并为每个选项返回概率。大型语言模型处理第三种类型。我们称 Clairic 和 Clef 为 System One 模型,因为它们以单次传递的方式给出答案,不进行推理或生成标记。它们仅对输入计费,通常在一秒钟内响应,而一次推理相同步骤的大型语言模型需要几秒钟。抽取模型可以返回:提取值:从输入中复制的文本,例如姓名、订单 ID 或描述。每一个都会以字符偏移量和置信度分数的形式返回。包括计算值:从输入中读取或从中算出的数字、日期、时间、日期时间、持续时间和列表。它们遵循类型的规则(例如,分币有两位小数)并附带置信度分数。估计值:输入未明确给出的但提供证据的值。每一个都会以您声明的边界内的分布形式返回,在您指定的网格上,带有中位数和 80% 区间。预测值:一系列未来的值,每一步都有一个估计,每个都有自己的 80% 区间。因为它不生成标记,所以它无法像大型语言模型那样产生拼写错误的答案或“幻觉”(尽管它当然也可能犯错误)。输出是您请求类型的值,或者当模型未能在输入中找到答案时返回 null。它还附带与输出相关的置信度分数,帮助您评估是否值得信任模型或重新审视。 以下是抽取模型在 System One 和 System Two 模型中的位置: System One: 提取 System One: 决策 System Two 例子模型 Clairic Jev, Clef GPT, Claude, Gemini, DeepSeek 采样 一次并行传递 一次并行传递 一次一个令牌 目的 预测值 做决定 写作和推理 机器学习框架 回归和抽取 分类 生成 思考模式 System 1: 快速,一次传递 System 1: 快速,一次传递 System 2: 缓慢,深思 输出类型 化类型的值:跨度、数字、日期、时间、列表、分布,带有校准的概率 化类型的决策:带有校准概率的选项 自由格式的字符串 输出空间 连续,但由您的架构类型化和界定 一组有限的选项 Anything 响应的内容是什么? 数量是多少? 何时发生? 费用将是多少? 这是哪个类别?是否合法? 我们应该采取什么行动? 发生的原因是什么? 我们应如何处理? 你能解决它吗? 输出总是有效响应吗? 是的:
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡