披露信息。Midha在a16z领导了OpenRouter的种子轮融资，AMP PBC随后进行投资，并在公司的董事会任职。Aubakirova与a16z投资密切相关，并共同撰写了引用的实证研究[1]。所有数据均来源于已发布的来源。 1. 引言 OpenRouter宣布将加入Stripe。许多风险投资家、评论员和分析师对此合并进行评述，认为其有很多道理，或完全没有道理，取决于星期几。我们没有找到任何准确的分析。简短的版本很简单：生态系统范围内的人工智能安全与对齐。不是路由，不是账单整合，不是“代币是新的美元”（虽然确实如此）。长的版本如下。 2. Stripe是一家安全公司 大众对Stripe的常见看法是它是一家移动资金的公司。简单地移动资金是一种商品，银行几百年来以极低的利润做这件事。相比之下，Stripe所建立的是一种大规模的在线信任机器。Radar每天在网络中对对抗性交易进行评分。所有人都称赞的API是基于安全基础设施的开发者体验：欺诈模型、退单责任、身份验证，以及全球每个司法管辖区的合规性。Stripe之所以获胜，是因为它在互联网规模上承保对敌对流量的风险，做得比任何可比机构都要好。 3. OpenRouter的数据形态 我们对通过OpenRouter流动的100万亿个代币进行了分析[1]。许多人可能会认为，媒介请求并不是人类向大型语言模型提问，而是一个在循环中间的机器：推理模型从一个近似误差在一年内增长到超过一半的所有流量（图1），平均提示增长了4倍（图2），并且相当一部分请求以工具调用结束。这项研究的要点很简单：推理平台必须现在管理连续的上下文和状态。 图1. 推理模型代币份额，每周，2024年11月-2025年11月。 图2. 每个请求的平均提示代币数量，2024年1月-2025年11月。 4. 对齐是一个上下文反馈问题 与大规模支付一样，大规模前沿人工智能安全是一个连续上下文反馈循环问题。Radar主要因为这个原因而具有防御能力：它在对抗性交易上大规模、每天进行训练，已经有十年时间。没有新鲜语料，就无法复制模型，而没有流程，就无法获得语料。每个持久安全特许经营都共享这个形状：产品是模型，护城河是数据，数据来自流量。从安全的角度阅读第3节：代理持有凭证，调用工具并发起支付。拥有消费权和20K代币上下文的自主过程是一个交易对手，而敌对的机器交易对手，无论是由恶意人类（误用）引导的，追求其操作员未打算的学习目标（失调），还是在执行过程中被注入的指令劫持（妥协），都将以机器速度实施欺诈、泄露数据并耗尽预算。对于运行开放权重模型的敌对交易对手，任何上游实验室都无法观察或撤销他们；唯一的执行点是他们通过进行交易的层。保护推理的方式将与保护支付的方式相同：基于规模的交易数据训练模型。这将收购问题简化为一个问题：谁拥有数据？不是实验室。每个前沿实验室观察巨大的流量，但仅限于它自己的模型，就像一家银行只观察自己的账户；一家银行的账本无法训练Visa的欺诈模型——对于开放权重模型来说，根本没有银行。也不是云，它们观察基础设施而没有意图。关于术语的说明，因为安全社区的区分在这里很重要： 5. 新兴的前沿对齐堆栈 对齐是系统行为的特性，本领域在两个地方追求它。训练时间的方法塑造了模型的意图。日益增长的推理时间对齐文献在部署时强制实施预期行为，而无需重新训练[5, 6]，控制文献则关注即使训练时间对齐失败时保持部署系统的安全[3, 4]。 图3. 新兴的前沿对齐堆栈。 我们为这个复合问题使用部署时间对齐：验证和强制实施已部署代理在现场的预期行为，其中对齐失败实际表现出来。验证需要监控，监控的效果取决于其训练的行为数据[7]，而代理的行为数据是一个网络特性：同一个代理必须在它接触的所有模型和提供者中可观察，因为误用、失调和妥协在行动点上都呈现出相同的表现，即交易。因此，代理的安全性实际上是部署时间对齐问题，而部署时间对齐，就像之前的欺诈检测，是一个数据问题。确实只有一个这样的数据集存在。OpenRouter处理超过10万亿个代币。