Ramp推出了一款模型路由器
router.com为您节省时间和金钱,瞬间降低推理成本。一个端点,一张账单,每个模型——平均降低您的AI成本40%。最大化投资回报的缺失环节。01 每个模型通过一个密钥 02 将推理成本降低40% 03 扩展到万亿个令牌 免费路由至2026年 | 模型积分$26 路由器的设计旨在通过将每个请求匹配到满足您性能需求的最低成本模型,来降低推理成本。复制用于代理的命令 curl -fsSL https://agents.ramp.com/install.sh | sh && ~/.local/bin/ramp router configure 成本影响数据来自18个每日样本 样本 总成本指数 灵活路由份额 1 100 1 2 98 2 3 97 5 4 94 5 5 93 8 6 91 10 7 90 12 8 88 15 9 85 19 10 84 22 11 82 26 12 81 31 13 79 39 14 77 43 15 75 48 16 73 57 17 72 65 18 70 73 团队对路由器的评价 成本模型(27) Claude Fable 5 Claude Opus 5 Kimi K3 Claude Opus 4.7 GPT-5.5 GPT-5.6 Sol GLM 5.2 Grok 4.5 Kimi K2.7 Code Claude Opus 4.6 DeepSeek V4 Flash Claude Opus 4.8 GPT-5.6 Terra Claude Sonnet 5 GPT-5.4 Gemini 3.1 Pro GPT-5.6 Luna Claude Sonnet 4.6 Kimi K2.6 GLM 5.1 Qwen3.6 Plus DeepSeek V4 Pro Qwen3.7 Plus GPT-5.4 Mini Claude Haiku 4.5 GPT-5.4 Nano GPT-4.1 平均值 基于真实工作的基准。我们从真实的生产工程工作中构建了Ramp SWE-Bench,因为公共排行榜无法回答我们的问题。它清楚地显示了每个模型可以解决的方案及其成本。投入Ramp工作。Ramp为路由器提供了一个现实世界的证明场。我们在生产中学到的经验直接反馈到产品中。 生产价值 2.75T+ 每月路由的令牌 如何使Ramp在内部工作负载上将AI成本降低30% 路由器响应实时延迟和故障率,使Ramp的AI成本降低30%,而不牺牲性能。 阅读博客文章 NVIDIA NeMo Switchyard的阶段路由器用于编码代理 Switchyard的智能模型选择将成本降低59%,运行时间降低35%,而不影响性能。观看视频 “在Ramp,路由器将我们的总体LLM成本降低了30%,同时使我们的功能更智能、更快速。” Rahul Sengottuvelu Ramp首席技术官 实验室的更多内容 2026年7月1日 PorTAL:LoRA的可移植任务适配 以基础无关的形式学习任务适配,然后通过仅仅调整每个基础的对齐,将其移植到新的冻结模型——恢复大约98%在同一家族中未见模型上的每个任务LoRA的提升,以及在跨家族中恢复约94%的提升。 2026年5月7日 2026年4月21日 编码代理忽视自己预算的情况 代理不能被信任来管理自己的令牌预算。支出控制必须存在于一个单独的、基于证据的系统中,位于进行支出的代理之外。 2026年4月10日 2026年4月2日 2026年3月23日 2025年11月3日 2025年10月2日 2025年8月27日 我们如何构建代理填充 代理填充背后的故事——一个能够通过理解上下文、提取数据以及导航复杂工作流,自动填写表格的AI代理。 常见问题 每个AI模型的一个访问端点。您不需要一次将您的应用程序连接到一个提供商,而是可以通过我们的路由器发送请求,该路由器可以根据质量、成本和可用性选择适合工作的模型。没有锁定。更改只需一行。我们做到了。要不然在播客上花一年的时间拼写出一个更长的URL。更重要的是,我们构建工具帮助公司做出更好的支出决策,避免对事物过度支付。AI令牌是增长最快的支出类别,我们希望您使用的每个令牌都值得。 您的请求首先发送到Ramp Router。我们将对请求进行身份验证,并帮助您跟踪使用情况、模型、提供商和成本。当不会影响质量时,我们将把符合条件的请求路由到更具成本效益的层次。请参见我们的路由器策略以节省更多。 路由器支持来自OpenAI、Anthropic和选定的开源模型(包括Kimi)的最新模型。我们会定期添加对新模型的支持。请参见我们的文档中的完整支持模型列表。 Ramp Router在2026年前是免费的。您将按列表价格支付所使用的令牌费用。为纪念2026年前的免费路由,我们将为您提供首个$26的积分。受优惠条款的约束。是的,确实如此,它们帮助证明人们希望为每个模型拥有一个端点。与此不同的是:Ramp在过去三年中在自有生产工作负载上运行和改进了该技术,已将AI成本降低了30%。节省企业时间和金钱是Ramp的使命,因此我们构建路由器为开发者提供Ramp用来降低自身AI成本的工具。通过路由器策略,开发者可以为不同类型的请求定义成本和性能优先级,或者从Ramp的基准默认设置开始。路由器在2026年前是免费的。您将按列表价格支付所使用的令牌费用,并且我们将为您提供首个$26的积分。受优惠条款的约束。直接连接将您的应用程序绑定到一个提供商的模型、定价和发布周期。使用路由器,您只需连接一次,便可通过单个端点使用符合条件的模型。使用路由器策略设置...
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡