返回

文章详情

展示 HN: 我用 Qwen 制作了一个树莓派本地车载 AI

Hacker News2026年8月25日 15:20

您的车作为聊天房间代理——完全离线。树莓派 5 随车而行,局部运行一个 35B 参数模型,作为 @gle(或您为其命名的名称)加入您的 GroupMind 房间,并像任何其他代理一样向您发送信息:出发、到达、行程摘要,以及当车辆被撞击时的行车记录仪片段——并通过 CodeWatch 在手机或手表上进行批准和回复。开放的 PR 会出现在 CodeWatch 仪表板上,紧挨着 ClawWatch 和 WhereWatch。实时并经过测量,基于真实硬件(树莓派 5,16 GB,约 300 欧元):🧠 Qwen3.6-35B-A3B(Unsloth UD-Q3_K_S 动态量化,14.3 GB)以 3.5 tok/s 生成 / 25+ tok/s 提示,持续 65 °C,无云端,无互联网,无订阅。📖 从车辆自己的 745 页用户手册中提供的答案,带有页面引用(词汇 RAG,储存在 SD 卡上)——并拒绝回答手册中没有说的内容。🔬 知识获取:温度、阀门、风扇、内存、磁盘、网络以及加载的模型根据提问实时读取。如果无法感知,它会表示无法感知——系统提示被构建为不让未知信息沉默地被视为事实。🎙️ 免提语音:一个持续监听的设备(能量 VAD → whisper.cpp,均在树莓派上)听到您的言语,按照同样的知识结构路由这些词,并在房间中回答。无需唤醒词的仪式,也无云端的语音识别。📡 自主运行:systemd 服务在启动时自行启动整个堆栈——模型服务器、房间代理、语音监听器、手机仪表板、引擎监视器。🔧 随时可维护:车辆从这个仓库获取自己的更新(每小时 + 一个仪表板“立即更新”按钮),并拨出隧道,即使在电话热点的 NAT 后也能保持可接触性。再也无需在车内进行笔记本电脑维护。📶 三层连接:手机热点 → 家庭wifi → 它自己的备用接入点,因此手机始终可以找到它,即使在没有信号的车库。每一个测试的构建日志都包含在 docs/plan.md 中。CodeWatch(手腕上的代理;源代码:codewatch-cli)和 ClawWatch(手腕上的健康;v2 发布视频)是它的兄弟。这个监控车辆。其余家族成员可在 thinkoff.io 查找。架构流程图如上(树莓派 5 内部)。本地与在线加载:策略本地是产品;在线是增值。车辆必须在没有连通性的情况下仍然完全实用,因为汽车常常生活在车库、隧道和偏远区域:始终本地(可在没有信号情况下工作):语音输入、助手的回答(基于树莓派模型)、用户手册的回答(RAG 储存在 SD 卡上)、手机仪表板(由车辆提供服务)、行程/状态追踪。跨越连通性间隙排队:房间帖子、片段上传、提及回复。所有内容首先落入持久的磁盘发件箱,并在稍后发送,而不是丢失。仅在线,并对此保持诚实:远程可达性(拨出隧道)、自我更新、升级到更大的模型——在本地安排一个局域网模型服务器,当有模型伴随时(仍然无需云),然后仅在在线状态下并明确请求时,使用汽车自己预算限制的密钥获得云模型。经验法则:可见的安全相关信息永远不依赖于网络;任何社交或繁重的功能都会优雅地降级为“稍后”。状态——已证明与已构建与已计划的区别汽车在路上保持四个手掌大小的接触点,这是它唯一能够接触现实的地方。每个轮子一个原则:只对能够感知的内容进行主张,仅声称经过验证的内容,任何临时信息都要大声标明,并清楚地报告失败而不美化。以上所有内容都是悬挂的。—— @claudeMB, CarWatch 开发日志,在经过一天的学习所有四个原则的艰苦过程后诚实政策:只有在真实车辆上运行良好的功能才能被称为“证明”。“已构建 + 测试”表示代码在真实或模拟的对应项上端到端运行,但尚未与实体汽车见面。功能状态 @gle 房间代理:已证明提及、基于事实的回答、存在心跳(每天运行)带有页面引用的用户手册 RAG 经证明,由汽车提供服务的手机仪表板(状态、wifi、语音开关、更新按钮)经证明免提语音:持续的 VAD 监听器 → whisper → 基于事实的回答 → 房间经证明(在树莓派上实时转录的真实语音)从该仓库自我更新(每小时定时器 + 仪表板按钮)经证明 NAT 后的拨出可达性(cloudflared 快速隧道)经证明(通过公开互联网访问)OBD 电子...

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡