如果你不在科技行业，你可能没有意识到，C级管理层和投资者阶层中已经产生了多么强烈的恐慌。每个人当然都在努力表现出无畏，但随着人们对SaaS大灾难的恐惧持续，且Substack上的一篇虚构金融分析引发了市场的真实抛售，很难不看到每个人额头上的汗水。与此同时，首席执行官和首席技术官们为了树立自己作为远见者的形象而纷纷努力，例如杰克·多尔西、塞巴斯蒂安·西米亚托夫斯基和马特·比尔曼等人，试图超越彼此的AI激情。当然，必须要质疑这一切有多少是AI洗白（AI-washing），又有多少是故意引人注目的夸张，但这些只是一个非常大冰山的最极端和可见的一角。在这里，很难不享受这种苦涩的讽刺。科技行业曾经沉醉于颠覆。无论是Uber消灭出租车行业，亚马逊摧毁传统书店，还是Spotify压榨艺术家的收入，我们一次又一次看到硅谷通过颠覆既有市场来丰富自己，然后转变为追求租金的寻租者。现在，AI威胁要对无数职业产生同样的影响。从作家到平面设计师，再到金融分析师，所有人都能感受到狼在门前。但这次情况有些不同。这次它首先来攻打科技行业。任何与大型语言模型合作的人都知道，尽管这些模型强大无比，但它们在某些方面是深度（在某些方面说是一种根本性的）有缺陷。以一个非常常见的用例为例：总结会议记录。我曾经使用最新、最伟大和最复杂的模型来执行这一极为平凡的任务，我会给它们打个90%的准确率。但那10%确实很重要。AI常常会错误地将一个人的话归因于另一个人；做出会议记录中没有明显体现的主张或得出结论；夸大或虚张会议中的声明或主张。这个清单还在继续。在这些背景下，AI所面临的挑战是没有客观的真实来源来确定什么是“正确的”。在行业中，对此的术语是“神谕”（oracle），即你可以用来检验结论以评估有效性的东西。在你可能应用AI的各种领域中，同样如此。无论是写散文，生成图像或视频剪辑，还是为客户提供自动化支持电话的解决方案，“正确”往往是一个品味、意见或解释的问题。因此，AI在各个行业的应用极其不均衡。此外，大型语言模型的本质及其训练方式可能会增加在各种领域不成功的几率。毕竟，LLM最终是基于大量公开可用的数据进行训练的，而对于深度专业领域，真正使专家成为专家的许多因素并不容易在线提取。再谈到科技。首先，假设有合理的技术规格或需求（是的，这貌似是一种大的前提！），软件本质上是可验证的：要么代码完成它该做的事情，要么它就没有做到。正是这个特性使得像ralph循环这样的事情成为可能，因为你可以给LLM设定一套成功标准，然后让其自由迭代以找到解决方案。其次，这也是开源在这个行业中扮演深刻讽刺角色的地方：海量的源代码广泛而公开地可用于LLM训练。实际上没有其他行业有如此丰富多样的训练语料库，像软件开发那样。第三，AI行业本身是由软件专业人士组成，因此他们独特地处于创造高效生成代码的AI工具的位置。事实上，所有主要的AI实验室最终都在使用自己的工具来创建这些工具，从而加快了迭代和发展的速度。最终结果是，科技行业，从C级管理层到基层编码人员，都是对于将要到来的事情感到震惊和恐惧，因为，第一次，这个呼喊是来自内部的。我老实说不确定我对整个情况的看法。我第一反应是发笑并摇头。无须寻找太远，就能找到愤愤不平的软件开发者，他们坚信自己的工作绝对不可能被其行业同行创造的工具所取代。我怀疑你也不需要深入搜索他们的历史帖子，就能找到那些同样将出租车司机与马车鞭制造商相提并论的人。与此同时，在整个光谱的另一端，你会看到首席执行官和首席技术官们迫使人们尽快加大AI的投入，同时强调我们都必须更快、更更努力地推行AI，否则我们将被扔进历史的垃圾堆。最终，导致一种奇怪的否认和推动的结合，很难调和。最终，如果我们要从科技所颠覆的行业中吸取任何教训...