Mistral的Robostral导航:尖端机器人导航模型
思考摘要Robostral导航是一个8B模型,使机器人能够仅使用单个RGB相机在复杂环境中自主导航,在未见的R2R-CE基准测试中取得76.6%的成功率——比多传感器方法更高效。该模型完全在内部构建,使用模拟训练数据和高效令牌技术,能够跨机器人类型进行概括,并适应训练过程中未见过的现实世界障碍。该模型结合了基于指向的导航和强化学习,实现持续改进,为机器人领域的统一具身人工智能铺平了道路。今天,我们介绍Robostral导航,这是我们为具身导航构建的第一个模型。它是一个8B模型,接受RGB图像和简单语言指令,并在环境中移动机器人:“离开大堂,走过走廊,进入供应室,并停下来面向第二个货架。”为了执行这些任务,其他模型通常会使用深度传感器、激光雷达或多个摄像头的合作。Robostral导航仅使用一个普通的RGB相机,而没有深度传感器,但仍在未见的R2R-CE(在连续环境中从房间到房间)验证中取得76.6%的成绩,突破了在训练中排除的环境指令跟踪基准。因此,它以9.7分的优势超越最佳的单摄像头方法,以4.5分的优势超过使用深度或多个摄像头的最佳系统,尽管都没有使用。我们的模型旨在进行机器人导航,使机器人能够自主导航复杂环境,包括办公室、居住和商业建筑以及户外场所。Robostral导航在工作的办公室中完全自主地运行,执行一条长时间任务指令。该技术在制造、送货、物流和酒店等领域解锁了众多应用,使其成为我们客户今天最需求的能力之一。给Robostral导航一个指令,它就能独立完成整个任务,在充满人和障碍的实时空间中移动,能够适应任何环境。亮点在R2R-CE上的尖端表现,验证阶段成功率为79.4%未见验证成功率为76.6%仅使用单个RGB相机操作,无激光雷达或深度传感器,8B模型,完全在内部构建并完全在模拟中训练,适用于轮式、腿式和飞行机器人,跨机器人规模进行概括,强健于摄像机内部差异高效令牌训练通过前缀缓存导航通过指向给定任务和历史观察,Robostral导航预测机器人下一步应移动到的位置:它推断目标位置在机器人当前摄像机视图中的图像坐标,以及到达时所需的方向。与依赖度量位移的命令不同,指向使得策略自然适应摄像机内部差异和世界尺度的变化。然而,当目标位置位于当前视野之外时,该方法无法处理。指向不适用时,模型会回落到机器人本地坐标系中的位移,例如:“向前移动2米,向左1.5米,并向左转25度。”从头开始构建Robostral导航完全在内部构建,无需依赖现有的开源VLM。该模型从我们专为定位任务(如指向、计数和物体定位)设计的视觉语言模型初始化。导航作为这些能力的自然扩展:一旦它了解物体的位置,它就学会了如何移动。我们完全在模拟中构建了一条高效的数据生成管道。这使得数据的快速迭代成为可能,最终形成约400,000条轨迹的数据集,收集自6,000个场景。高效的监督训练Robostral导航的一个关键要素是基于前缀缓存的高效训练算法。使用树状注意力掩码策略,我们的方法将整个剧集压缩为单个序列,使得能够在单次前向传播中对所有时间步骤进行训练,同时防止时间步骤之间的信息泄露。与每个时间步骤训练一个样本相比,我们的方法减少了训练令牌的数量22倍,同时保留了所有学习信号。在实践中,这种方法将需要几个月的训练时间转变为几天完成的训练。在线强化学习我们利用后期训练大规模LLM的知识,使用在线强化学习来提升Robostral导航的性能。在监督训练阶段之后,我们还使用了CISPO(一种在线强化学习算法)进一步提高模型的性能。这使得模型能够通过试错学习,从失败中恢复,并获得探索性行为,有效缓解了普通行为克隆的分布转移问题。仅这一点就提高了成功率。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡