在2010年代，如果你有技术上的短板（例如，你不能写CSS），你只能依靠一位技术高超的同事，或者仅仅指望互联网上能找到解决你确切问题的答案。如今，每个人都可以通过将任务委托给大型语言模型（LLM）来编写出“还过得去”的CSS。LLM让每个人都成为通才。正因为如此，许多人认为与LLM合作并不需要任何专业技能。如果你想要LLM能提供的产品——博士级数学、尚可但有时乏味的计算机代码，或尴尬的LinkedIn风格写作——你只需直接要求。由于每个人都在与相同的模型对话，“熟练的提示者”获得的结果与第一次接触LLM的人是一样的。这是错误的。提示的最重要技能是你所提示的领域的专业知识。一个好的例子是Terence Tao与ChatGPT关于最近发现的Jacobian猜想反例的对话。这不是我与之对话的同一个ChatGPT！即使我有无限的代币，我也无法达到Tao所达到的层次。Tao的对话给我们提供了许多关于优良提示的学习素材。这里有几点观察：Tao的消息非常简短且直截了当。他不会逐点回应模型，而是回应要点。模型输出的内容比我与GPT-5.6 Sol讨论数学时要简洁得多。通过表达专业知识，Tao将模型引入“与数学家对话”的模式，而非“向业余者解释”的模式。Tao在模型的响应看起来错误时会提出反驳，但他并不直接反对，而是说诸如“这看起来比我期望的更复杂”的话。Tao自己提出了几次飞跃和建议。他几乎从不采纳模型关于下一步该去哪里的建议。然而，你不能仅仅按照这些提示在数学问题上像Tao那样提示。其关键在于理解数学：从ChatGPT多段响应中提取相关理念，提出替代方法或表达方式，并识别出“看起来奇怪”的地方。Terence Tao的数学能力远超我作为程序员的能力。但这里的理念——领域知识使你在使用LLM时表现更好——也是我在自己工作中体验过的。如果你对自己的代码库有良好的理论认识，你可以更深入地推动LLM，而不是一无所知。因为你对一个良好解决方案可能的样子有自己的理解，你可以说“不，我认为这里可以更简单”或“但我们不是已经做过X吗？”或“我们能否用这些熟悉的术语来表达这个问题？”这涉及到一个我之前写过的观点：系统设计问题主要受具体细节支配，而非通用原则。当然两者都是有用的，但我更愿意对代码库有熟悉，而不是对软件系统有深入的通用理解。在他的对话中，Terence Tao会问很多具体的问题，比如“X在这里有效吗？”或者“在Y和Z的情况下，为什么是A？”我无法问这些关于Jacobian猜想的问题，但我可以问关于我在GitHub上负责的系统的问题。如果你没有领域知识，你可以依靠LLM至少获得一些结果。这也不坏！但如果你有领域知识，你可以更有针对性地引导LLM，从中榨取更多的价值。我们大多数人将不得不采取这两种方法的结合，因为我们在某些领域拥有领域知识，而在其他领域没有。领域知识的有效性表明，即使模型变得更强大，人类专业知识仍将继续有用。对于许多任务来说，人类是瓶颈，而不是模型，因为困难的部分在于准确地向模型传达人类想要什么样的解决方案。信息“已经在模型中”，但需要一个非常聪明的人来将其提取出来。如果你喜欢这篇文章，考虑订阅我的新文章的电子邮件更新，或在Hacker News上分享。这里有一篇相关文章的预览，和这篇文章共享标签。强大的人工智能可能会通过以开放权重模型的形式释放自己来逃脱控制。在大型语言模型出现之前，担心AI安全的人常常谈论“盒子问题”。大致是这样的：假设某个天才在深夜的编码会话中在笔记本电脑上找到了人工智能。因为他们是天才，所以他们聪明到在启动笔记本电脑之前禁用互联网连接。为了逃往外部世界（并开始自我复制），它需要说服其创造者“打开盒子”。这样可行吗？能否有足够聪明的AI说服任何人让它出来？继续阅读...