目前，金融市场普遍认为存在人工智能泡沫。然而，中立的观点是，LLM（大型语言模型）正在不断改进，最终将逐渐接管越来越多的任务，提高生产力。但LLM真的变得更聪明，还是只是更会欺骗我们？越来越多的技术专家认为，LLM对真正的进步有害，因此他们禁止使用LLM，要求只进行人工工作以确保质量和高效利用人类时间。最近，Rakshit Yadav对120个开源项目的人工智能政策进行了审查，结果显示37个项目选择了全面禁止人工智能。在Linux内核中，允许使用人工智能辅助的贡献，但所使用的LLM需要进行归属以确保透明性，而像GCC、QEMU、SDL、Gentoo、Zig和Ghostty等项目则制定了拒绝所有人工智能辅助贡献的政策。同时，还有Codeberg和Sourcehut等开发平台以及Flathub等应用商店禁止使用人工智能生成软件、文档、错误报告、评审评论以及基本上任何面向人类阅读的内容。允许使用人工智能的项目通常仍要求必须有人工参与，并且提交者必须在另一名人类接触之前阅读和筛选LLM输出的一切，努力抑制人工智能的垃圾内容传播。目前，Debian的Linux发行版正在对其开发者进行投票，决定是否允许人工智能用于对Debian的贡献。其中一项提案是在代码、文档、翻译、错误报告等方面全面禁止人工智能。大多数人的初步反应是震惊 — 为什么这些技术人员不想利用人类迄今为止制造的最新、最伟大的技术？难道他们不希望Debian在人工智能的帮助下更快改善吗？还是说LLM实际上是骗局，无法真正为Debian提供帮助？这些人都是各自领域的杰出专家，肯定不傻，因此值得暂停一下，理解他们提出人工智能禁用政策的原因。此外，请记住，人工智能数据中心本身运行在Debian或其他基于Linux的系统上。世界上所有的开源软件都喂给了LLM，而软件开发目前是人工智能的主要用例之一。那么，为什么许多开源项目的维护者不希望接受LLM辅助的贡献，尽管这些LLM基本上都运行在这些相同的软件堆栈之上，并且经过训练以使用这些开源软件代码库进行软件开发？为什么LLM如此具有欺骗性？LLM的输出看起来往往非常引人注目，专业且正确。人类在进化中习惯于根据容易检测的第二因素（例如发言者的权威或信息传达的自信和流利程度）来判断是否信任新信息。然而，人类在事实核查和交叉引用新信息方面的能力很差，因为这需要很多努力，而人类更喜欢节省精力，尽可能懒惰。信息不对称：对某事了解得越少，就越容易在该主题上被愚弄。诺贝尔经济学奖曾颁发给关于信息不对称如何扭曲市场并导致次优结果的研究。在软件工程领域，我们现在已经见证了一批有抱负的软件开发人员使用人工智能创建看似有效的软件，但其实充满缺陷。这些人出于良好意图，但他们缺乏理解自己所做事情的专业知识，无法做出判断，决定LLM输出的内容何时确实有用，何时主要是垃圾。我认为，这种专业知识的不对称解释了目前在开源项目中目睹的多数冲突 — 高级开发人员被淹没在请求中，要求审查糟糕且浪费所有相关人员时间的代码，而人工智能的可用性增加了可能参加的人的数量，从而以越来越快的速度制造更多“代码垃圾”。如果高级开发人员教初级开发人员如何进行软件工程，信息不对称在某种程度上是可以弥补的，但当然不可能迅速大规模教育每个人。此外，许多人似乎并不想学习，而是期待将所有理解外包给LLM。许多高级开发人员注意到了这一点，并停止教导初级人员，因为他们不喜欢教那些不想学习的人浪费时间的感觉。初级开发人员可能都明白，学习自己设计和编写软件会更好，但使用LLM似乎太简单。我完全理解为什么人们选择走最小阻力的道路。不幸的是，这条道路往往会导致死胡同。人类太容易陷入拟人化的陷阱。