询问 HN:有没有人用本地模型替换 Claude/GPT 进行日常编码?
Hacker News2026年6月15日 14:46
询问 HN:有没有人用本地模型替换 Claude/GPT 进行日常编码? 20 分由 cloudking 发布于 1 小时前 | 隐藏 | 过去 | 收藏 | 4 条评论 这里有没有人完全将 Claude/GPT 替换为本地模型作为他们的主要编码工具,而不仅仅是做一些旁边的实验?如果有,请分享你的设置和性能(例如 tok/s) 帮助 只需将 OpenRouter 附加到你的编码代理工具并自己尝试。所有相关的开放权重模型都在这里。每个人都有不同的需求和期望 不是“本地”的,也不是交互式编码,但分享因为这可能有帮助。我有 2 个 RTX Pro 6000 Blackwell 运行 DeepSeek V4 Flash。我获得 160 tok/s 的原始性能,但这是一种推理模型。对于我的用例,我让它自动编写代码,另一个系统会自动审核代码。我偶尔使用它与 pi 编写一些代码,速度非常快,但主要是习惯让我继续使用 CC 和 Codex。我有一个 optane 和大量内存,所以我尝试了全脂模型来过夜编写一些函数,大约获得了 0.7 t/s。我目前的测试是在更新一个标量函数以转置一个位矩阵为使用 avx512 的函数。云模型对此毫不在乎。Kimi 2.6 和 GLM 5.1 都惨遭失败。还没有,尝试过在 Apple M4 上运行 Gemma 4,但 tok/s 明显低于云提供的模型。此外,缺乏企业工具来帮助选择合适的模型和运行本地 LLM 的工具也没有帮助。指引 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡