人工智能是一种工具。善用它需要技巧。
在他2026年10月11日的文章《“人工智能”不是工具》中,Rich Hickey认为大型语言模型(LLM)是自动化,而不是工具,因为它们无法被人掌控。我同意外包工作可能会让我们失去学习的机会。但他的结论并不成立。即使按照他的定义,LLM也可以是人类可以掌控的东西。而且,善用它需要技巧,就像使用其他工具一样。拿起锯子并不保证能切出一条直线。握住凿子并不代表你就是雕塑家。工具可以像放大良好的判断力一样放大差的判断力。它们的有效性取决于操作者引导它们、解读反馈、识别错误和进行修正的能力。这些要求同样适用于LLM。LLM的不确定性是一个重要的局限性。但可预测性、可靠性、简洁性和有限功能是我们评价工具的品质,而不是成为该类别成员的前提条件。一个工具并不会因为难以控制或容易被滥用而停止成为工具。Hickey对于工具与自动化的区分也造成了一个错误的分界。自动化可以是工具的一个特性。编译器在程序员不需要持续指导每个操作的情况下,完成了大量工作。电子表格在没有人手动执行每个计算的情况下,重新计算结果。我们依然通过指定输入、检查结果和决定下一步该做什么来掌控这些系统。为什么自动生成文本就会使某个工具失去工具的资格,而自动翻译代码或自动计算数字却不会呢?声称LLM使用缺乏意图、反馈、方向和专业知识尤其难以辩护。程序员可以要求LLM解释不熟悉的代码,对该解释提出质疑,检查源代码,测试建议的更改,拒绝它,并精细化请求。这是一个由人类追求目的的反馈循环。做好这些需要知道该问什么,哪些证据重要,以及何时答案是错误的。专业知识可以使工具更有用。Hickey对阅读的关注在特定用途中是合理的:接受摘要代替阅读论文可能会牺牲阅读带来的许多知识。但也可以有人阅读论文并使用LLM质疑他们的解释、探讨反对意见或识别需要更仔细审查的内容。避免进行智力工作的可能性并不能证明每一种使用方式都是如此。相关的问题是这个人实际上做了什么。让我最失望的是对AI行业的人性化词汇的依赖:“失控”、“逃避封锁”、“共谋。”重复这些表达有可能接受这些系统听起来像独立存在的生物的框架。软件可以产生意想不到的输出,未能遵循指令,或在被给予重要操作的权限时造成伤害。这些都是现实的工程问题。称之为“阴谋”则在没有建立任何动机的情况下暗示了人类动机。我不会声称LLM总是完全按照人类的指示行动。它显然可能会失败。但不完美服从并不意味着它停止成为工具,就像成功使用并不证明其操作员放弃了判断一样。有效的区分在于熟练掌控工具和在缺乏足够理解或监督下委派工作之间。这一分歧同样适用于人工智能,并且为我们提供了比宣称整类软件无法成为工具更实用的东西。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡