我提出了一种高度个性化LLM的方法，以应对不久的将来生产力的提升和个人信息/网络安全的问题，以抵御日益强大的LLM：它们应该在上传的精神下，努力模仿用户的价值观和偏好，以增强主要用户的能力，而不是替代他们。我讨论了一系列技术和提案，以实现这种'守护天使'；动态评估LLM结合主动学习和引导以及深度内心独白搜索/数据增强。在未来几年内，强大的LLM将在全球范围内部署，并将主导互联网，以及日常生活。到2026年中期，对于知识专业人士或普通人如何利用这些LLM实现大幅度生产力提升，以及如何处理网络安全和认知安全问题，还没有一致的愿景。我提议的目标是创建守护天使（GA）：个性化的数字双胞胎LLM，其目标是提供的不是刻板印象中的“助手聊天机器人”的角色，而是模仿单个用户的个性、价值观和偏好。这在一定程度上解决了委托-代理问题，通过尽可能地统一委托者和代理者。在GA的未来，“委托者”用户的重点是定义“值得做的事情是什么？”由GA（代理）用户来执行，而不是关于做什么或如何做，充当一个'AI公司'的CEO或'董事会'。这使他们能够部署众多代理以实现理想目标，并处理安全问题，比如筛查所有消息以防止高级攻击（例如，利用合成媒体进行宣传或精准钓鱼的相互作用生态系统）。它们无法解决更大的人工智能对齐问题，但可以帮助个体人类作为一种社会范围内的深度防御策略。GA角色是高效的，因为它学习模仿主要用户的输出，但质量更高。它是可信的，因为它在定义上与其委托者结盟，并分享其价值观和目标。并且它是安全的，部分原因是固化了一个单一的、独特的、特定的用户（对于该用户来说，跟随定向攻击将是荒谬的），避免了“困惑的副手”等问题，同时定期升级底层模型和防御者的优势使得GA能够与攻击者保持同步。标准的技术，例如对“冻结”模型进行的上下文学习的提示编程，将无法创建有用的GA，因为后期训练、上下文窗口和自我注意力在计算高效但参数不足的模型、低计算输出以及被动离线数据收集现状中存在的局限性，这些都共同导致了聊天机器人在知识工作者提升和创造性写作方面的令人失望的结果，以及在代理环境中的致命错误。我们可以通过技术的组合尝试创建GA：实时动态评估的在线学习，以避免无知和致命错误，同时与冻结前沿模型保持竞争力，从预训练的偏好导向大模型中获得样本效率，通过向主要用户询问纠正和偏好数据进行主动学习（从DAgger风格的界限中获得低遗憾），以及本地以CLI为先的日志导向用户界面/用户体验范式。GA可以作为开源社区的努力来完成，但考虑到部署中对高安全性的需求，以及配有神话规模攻击者的高级持续威胁的崛起，作为一家初创公司可能更为合理，最初服务于电力用户和知识工作者，例如CEO或研究人员，随着其不断完善而逐步向下发展。我未来几年的生活会是怎样的？当我想象自己在2030年，许多预测称将会出现超人类AI时，我的日常生活是怎样的，作为程序员、研究人员、经理或作家？我泡好茶，打开笔记本计算机，然后…接下来呢？我还在你的ChatGPT浏览标签中输入提示吗？我在终端中打开Claude Code，心不在焉地按了几个小时的回车键？对我而言，做有意义工作的愿景是什么？（能够拥有一个超越“希望”的计划是件好事。）我又是如何避免“死互联网”攻击，例如合成媒体的生态系统或猪肉屠宰骗局，或者可信人物屈从于人工智能偏执症，或仅仅是人工智能泛滥？（毕竟，只需一个人启动一个试图摧毁你的机器人，或一个思考不周的广告激励，就足够了。）如果你大部分时间都在笔记本电脑上工作，而不是，例如水管工或护士，那么你对2030年工作的愿景是什么？这依然让人感到确定吗？自从2020年规模开始真正增长以来，我多年来一直在努力想象这一点，而我未能从经过聊天机器人调优的LLM中获得生产力，因为它们不断重复的行文缺乏创造力。相反，尽管在创造力和对我的洞察力方面落后，我看到它们在编码和网络安全黑客方面愈发出色。而且开放权重模型的情况更是如此——基准测试满分，对我毫无用处。