返回

文章详情

MicroLLM实验室 - 在浏览器中尝试7个微型LLM

Hacker News2026年9月28日 18:58

最大的新下一步行动:目标检查(正则表达式/精确令牌),而不是写作质量。一个1.35亿的模型允许失败——这就是衡量标准。选择模型,然后运行。如果我们有一个,估算使用上次的令牌/秒。下一步行动:速度(令牌/秒,持续解码,套件总墙)和准确性(基于在此浏览器中的运行的目标测试的通过率)。数字保留在这台机器上。图表使用每个模型的最新套件。你的名字或设备和硬件信息。下一步行动:用JavaScript编写基准。编辑器在此源中被eval(),然后每个检查在模型解码的文本上运行。下一步行动:

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡