工程 2026年7月7日 我们的目标是构建第一个能够教授4到9岁儿童数学和阅读的AI辅导员。要让AI真正能教五岁的孩子，教育学必须融入工程之中。孩子不能等待缓慢的回复，无法阅读聊天界面，也不能忽略模型错误的任何信息。我们想分享一些塑造我们建筑决策的经验，这些经验是在构建一个实时的AI辅导员过程中形成的。谈话中的2秒暂停对于孩子来说与对于开发人员或甚至是与一个与自动化代理通话的成年人感觉是不同的。几秒钟足以让孩子的注意力游离，从而停止学习。好的教师在没有停顿思考的情况下管理这些情况。他们立即回应孩子，即使他们暂时保留答案，让孩子自己思考。教学是将正确的方法与当前时刻相匹配，而大多数方法并不是明确的答案。当我们开始构建一个为4到9岁儿童设计的AI辅导员时，我们希望构建一个真正教授知识的辅导员，而不仅仅是一个迅速回应的聊天机器人。我们知道这个基础约束将非常艰难，并且这不是可选的：每次交互都需在子秒内响应。大多数代理在推理预算的考量下牺牲速度以求质量。我们的架构必须将辅导员扎根于教育学中，并实时回应孩子。我们抛弃了标准的代理循环。教师不断决定如何与学生互动，是说些什么、在白板上绘画、玩游戏，还是完全更改话题。如今标准代理的模式是工具循环。大型语言模型（LLM）输出一个或多个工具调用，等待它们执行，观察结果并决定下一步该做什么。因此，构建一个教学代理的直接方法是为教师可能采取的每个行动制作一个工具。但工具循环存在延迟问题。前沿模型生成第一个标记需要2-3秒，然后以每秒约30个标记的速度解码。我们的行动平均涉及几十个标记。再加上往返延迟和音频播放，一个标准循环意味着在每个句子或屏幕变化之间会有3-4秒的停滞。在我们的早期游戏测试中，我们实时观察到了这种情况。一个六岁的男孩在等待代理思考时问道：他为什么什么都不做？什么时候开始，这真无聊。——孩子，6岁。在同一轮游戏测试中，另一个孩子发现她只要部分时间集中注意力也能跟上。延迟教会了她忽视辅导员。那也是她停止学习的时刻。便利的解决办法是一个更小、更快的模型。这就出现了范围问题。教学是一项广泛的任务。一个辅导员可能在一节课中选择几十个行动，而最困难的决定往往是保留答案并给出提示、问一个小问题，或让孩子略微挣扎，以便在他们获得洞察时能够体会到。较小的模型在这些广泛指令上常常难以跟随。我们代理的早期版本使用的是一个小模型虽然反应迅速，却不断给出答案。每当它这样做，就会失去学习发生的那一刻。因此，我们构建了一个自定义框架来平衡指令跟随、延迟和灵活的行动空间。该模型在单个响应中流式传输多个动作。解释器在模型仍在生成下一个动作时解析并执行每个操作。孩子只需等待第一次动作，约30个标记，而不是等待整个响应完成。将生成与执行分开为我们带来了两个额外的好处。根据情况，我们可以改变可用的动作。例如，当屏幕上显示一个问题时，代理会获得关于支架的指令和选项，而不是给出答案。我们也可以在愉快的通路上验证每个动作而没有延迟影响。只有当流产生无效操作时，我们才会中断并重新生成，否则执行从不暂停。这些都不是没有代价的。拥有循环意味着我们不得不建立自己的可观察性和追踪，而不是依赖于框架。我们在逆流而上：前沿模型在工具使用模式上经过了大量后训练。如果未来模型变得足够快，我们的框架旨在被更简单的循环替代。教训：代理框架正在朝着后台工作发展，在这种情况下，速度和思考之间的权衡很简单。实时学习处于另一种极端。以对话速度教学意味着我们必须自己掌握这个循环。一个好的辅导员预测孩子接下来会做什么。一个真正的老师既能反思学生刚刚做的事情，又能预见他们接下来会做什么。教同样的课程一百次，你就会看到模式。但你也知道这个孩子，知道他们在哪里停滞，什么让他们兴奋，今天什么可能会使他们感到困惑。你以计划开始课程并实时调整。我们称与孩子互动的代理为“交谈者”。我们早期的实验显示...