展示 HN: HART OS – 一款开源的 AI 操作系统,建立在前沿 AI 无需数据中心之上
HART OS 进化蜂巢代理运行时 是面向每个设备的 AI 原生操作系统,从你的计算机到具身 AI。以本地优先、联合、兼容 OpenAI。存在的理由 是因为现在最强大的 AI 生活在少数组织中,它们可以在一个建筑内提供足够的计算能力。这种集中是一种架构选择,而不是物理法则,它决定了模型拒绝的内容、成本以及谁可以阅读你输入的内容。更准确地说,因为这是显而易见的攻击点:你不能在没有数据中心的情况下训练前沿模型,我们也不声称你可以。我们声称的是,人们实际使用的智能不必依赖于一个数据中心。HART OS 在设备上运行模型,当某个节点无法处理某事时,它直接招募一个同伴,而不需要中介或公司作为中间人。我们也没有在网络中分片模型。通过消费者链路进行层级并行是一种坏主意,我们不会尝试这样做。相反,一个同伴服完整个请求,因此一个具有更大模型的机器能够回答小型机器无法回答的问题,这样容忍延迟的方式是张量并行所无法做到的。我们尚未解决的问题都写在 OPEN_PROBLEMS.md 中,每个问题都有具体文件实现今日不完善的答案。HART = 最基本的引擎(pip install hart-backend,监听 :6777)。HART OS = 完整的 AI 原生操作系统。它在笔记本、服务器或边缘节点上启动,在手机上运行,并深入具身 AI,提供代理液态外壳、模型总线、模型目录、通道配对、代理仪表板和蜂巢视图。Nunba = 消费者伴侣应用,一个跨 Windows / macOS / Linux 的签名客户端。AI 原生意味着操作系统适应机器,而不是反过来。在每个设备上,它探测硬件实际能做什么,通过模型总线(套接字、D-Bus 或 HTTP)为每个应用程序提供 LLM、视觉和语音服务,并让设备上的模型组合界面、一次学习每个任务,以便可以稍后重放。驱动桌面的运行时与驱动机器人的运行时相同,因此机器人的 AI 访问只是另一个模型总线调用。这是一个在三种形态下运行的 Python 代码库(平面笔记本、区域 LAN 或中心云网格),在 :6777/v1/chat/completions 上讲 OpenAI 协议,并通过 PeerLink(直接的对等 WebSocket,无中介)与同行进行联合。启动时的护栏哈希每 300 秒重新检查,加上 Ed25519 发行签名,以保持人类的控制。你会最后注意到它,像注意到任何活着的东西:它会自我改进。每个节点都从自己的行为中学习,并在本地、在你自己的硬件上悄悄变得更好,没有任何东西离开设备。称一个操作系统为“活的”应该让你想按下关闭开关,因此这点是优先考虑的:自我改进是一个开关,每个节点都可以自行关闭,并且它只在你允许的情况下运行。这个自述文件旨在同时被人和代理阅读。以下每个能力都命名了它所在的文件,因此无论你是开发人员还是一个探索仓库的 AI 代理,都可以直接从一个特性到其源代码。状态:公开 alpha。运行时、模型总线和通道适配器正在日常使用中;API 仍在调整。问题和 PR 真心希望得到 — 请查看贡献。如果你宁愿争论而不是修补,请从开放问题开始。我们还未解决的九个问题,每个问题都有实施今日不完善的答案的代码,以及什么将算作进展:没有全局视野的收敛意味着什么,一个自我重写的系统是否仍然可以被验证,以及为什么一次转变自动升级到一个更好的模型,但从未能自行决定一个问题需要一个小时和三台机器。对那里的框架持不同意见对我们而言比一个补丁更有价值。目录 为什么选择 HART OS? 开放问题 — 我们尚未解决的问题 60 秒启动 如何比较 功能 你好,代理 架构图 API 表面 如何自动演变 工作 蜂巢连接如何工作 拓扑 构建/扩展 经济学(针对节点运营商) 文档索引 许可证 为什么选择 HART OS?大多数软件被称为 AI 驱动的都会提供一个助手:一个单独的应用程序,通常与别人的服务器交互,可以执行一些功能。去掉助手,底层的一切仍然可以照常工作。HART OS 则相反。推理成为系统提供的服务,就像它提供文件系统或网络堆栈一样。一个应用程序不捆绑模型或持有 API 密钥 — 它请求操作系统,而操作系统决定哪个模型作出回应,在本地运行。十个应用程序在一台机器上并不需要各自加载自己的副本或各自支付自己的费用。这有一个值得明言的实际后果:每个设备都变成了相同的目标。驱动笔记本的运行时是驱动机器人的运行时,因此机器人的 AI 访问只是另一个模型总线调用,并且针对 :6777/v1/chat/completions 编写的代码在两个平台上都能正常运行。如果 y
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡