只是你，一个经过微调的小型开放模型，运行在 MacBook Air 上，能够不使用破折号、不使用 "不是 X，而是 Y" 或三个项目的列表，并且无需系统提示，你可以通过 Ollama 在本地运行。TL;DR 我训练了 Qwen3-4B-Instruct 的助手写作习惯，并将其发布为 qwen3-4b-deslop 。使用 Ollama，运行命令为 ollama run hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4_K_M，下载大小为 2.5 GB。在 40 个训练过程中未见过的提示下，杂音评分从每 1000 字的 121 降至 12.5，68% 的回答在人的写作范围内。破折号的数量从每 1000 字的 20.5 降至零。它仍然能准确回答 30 个事实问题，并且请求的类型和长度与原始答案一样频繁。它对人类写作的预测与运行时调节相比，变化约三分之一。一个中间版本的评分为 9.9，写得不好：没有观点的评论文章、虚构的研究以及新的习惯是将每个句子连接起来用", which"。修正这个问题需要第二个过滤器来检查答案是否符合提示的要求。声音简单到平淡，并且它仍然会编造名字和地方。我的家庭实验室是一台 MacBook Air，因此这是一个经过 161 个答案训练的 4B 模型。这个配方不依赖于模型的大小，运行在更大模型上是下一个步骤。回答在 40 个保留的提示下，这些是来自原始模型和发布模型的每个提示的一次采样答案，涵盖四种类型的十个主题，没有系统提示。被下划线的段落是杂音检测器所计算的。主题 原始 Qwen3-4B-Instruct 去杂音的生成在 260 个 token 时停止，因此长答案在句子中途结束。将鼠标悬停在下划线段落上可以看到是哪种习惯。评分是每 1000 字；人类写作通常的得分在 15 以下。杂音评分 该评分来自我编写的 AI 写作习惯风格指南的探测器：破折号、"不是 X，而是 Y"、三个项目的列表、即时回答的修辞问题、标志性句子如"事情是这样的"、强调用的短片段，以及像"深入研究"和"无缝"的词。每个习惯都有一个权重，得分是每 1000 字的加权计数。一个小心的人类作家的段落得分接近零，而原始模型的平均得分为 121。正则表达式无法分辨良好写作与糟糕写作，因此以下所有模型都必须检查损坏。漂移测量其在 22 段人类散文中的预测与原始模型的偏差。一个 30 问题的测试检查它是否仍然知道事情，而基于规则的检查标记出破损的输出，如小写句子的开始或主题的丢失。我还从每个模型中读取了一些答案。训练方法 对这个模型的早期实验发现助手注册为其内部的一个方向：在模型写作时减去该方向，与一个简单风格的系统提示结合，得分降至约 15，但它在生成期间需要提示和代码运行，并且会改变模型对普通文本的预测。第二次实验逐个读取神经元，发现其中四个神经元的符号翻转会几乎没有成本地减少 70% 的“不是 X，而是 Y”，尽管仅适用于那一个习惯。为了将两者都纳入权重中，我使用了蒸馏：一位教师，基于迄今为止效果最佳的内容，回答了 288 个训练提示。我保留通过检查的答案，一个小的 LoRA 适配器学习从简洁提示中生成它们。第一轮得分为约 20，没有提示和钩子。第二轮 对于第二轮，教师是第一轮模型加上四个神经元补丁和简单风格的提示。把方向引导叠加上去产生了我测量到的最低得分 9.5，来自一段没有大写字母且跑题的文本，因此我将引导去掉。然后教师的平均分为 7.4，而在其 171 个最佳答案上训练的学生得分为 9.9，80% 的答案在人的范围内。在其答案中，一篇关于公司新 CRM 的评论文章从未表达立场，读起来像是事故报告。一篇关于搬到新城市的博客文章变成了关于一个漏水公寓的家庭的第三人称故事。一篇关于室内植物的文章引用了“来自悉尼科技大学的一项研究”，这项研究是模型编造的。几乎每个句子都以", which" 或", so" 连接，出现频率是原始模型的 28 倍。最后一个习惯来自我自己的教师提示，告诉模型用"因为，所以，但是，哪一个"连接句子，两轮模仿放大了这一点。任务适应性检查 我添加了基于规则的检查，以确定答案是否符合提示的要求。一篇评论文章必须早早表明立场，个人反思必须以第一人称写，电子邮件必须以问候开始，长度必须大致符合请求。还有两个检查统计", which" 和", so" 的连接，以及虚构的研究和百分比。在这些检查中，第二轮模型只在 60% 的情况下做到要求，相较于原始模型的 78%。第三轮 第三位教师获得了一个提示，该提示让其