返回

文章详情

'AI' 不是工具 - Rich Hickey

Hacker News2026年10月12日 18:00

以下所有文字均来自 Rich Hickey,来源:https://www.linkedin.com/pulse/ai-tool-rich-hickey-kjl8e,发布于 2026年10月12日(我一直以此作为笑话来分享,这里多说一些) 首要问题 - “工具”是否会有一个有趣、独特并且能够启发的意义,还是仅仅作为“任何有用的东西”的空洞代名词?我们将工具定义为“任何可以被利用的人或物”,对于人工智能的巨头们来说,风险投资人、政治家、想要成为巨头的首席执行官、软件开发者、乡村城镇等等都被视为“工具”。我衬衫前面的口袋是有用的(我需要随时拿到我的阅读眼镜),但它们不是工具。同样,快餐驾车取餐窗口是有用的,但也不是工具(稍后会深入讨论)。 “工具”的一些定义: - 一种设备或工具,尤其是手持的,用于执行特定功能。 - 一种工具(例如锤子或锯子)由手工作或使用。 - 一种工匠或工人在其工作中使用的工具。 我最喜欢的定义 - 工具是你可以使用的东西。 使用 - 以(作为工具或工具)特别是全权掌控或权力来使用:处理、操作、控制。 特别有用的是: - 手中持有 - 控制和反馈的来源,以及使用行为亲密度的指示。 - 力量 - 力量、能量的传输和方向、杠杆等等。 - 控制 - 意图和持续指导事件发展的过程。 工具是你用来做某事的工具,它们不会替你做事情。工具的使用建立、奖励,并且通常需要专业知识和技能。技术和能量的持续应用,以及感官反馈,对于专业知识的积累至关重要(来自“experiri” - “尝试”)。 好的工具具有许多 LLM 缺乏的特性 - 它们是可预测的、可靠的、确定的、功能有限的,希望是简单的等等。你在使用工具的同时所学习的,是关于世界、任务、物理、逻辑等你想要做的事情或你想要克服的情况的知识。并且,往往也是关于你自己的知识。 作为一个终身的工具制造者和使用者,我知道什么是工具。LLM 不是工具。控制、感官反馈、意图、亲密度、持续指引、专业知识等在 LLM 的使用中都是缺失的。LLM 不能被使用。LLM 是自动化。 自动化 - (设备或过程)在几乎没有直接人类控制的情况下自行运作。 一个驾车取餐窗口不是烹饪的工具,而是避免烹饪的自动化。LLM 不是你写代码的工具 - 它们是让你避免写代码的自动化,你放弃了写代码的责任。你并不指挥 LLM 的动作 - 你发出请求,它自行采取行动,不需要你的精力或持续的指挥。这种请求/自动化的循环不是使用,不是控制,不是持续的,且没有反馈。 在使用自动化的过程中,你所做的并不是学习真实的世界真理,而是试图预测某个自动机当天的细节。并努力去游戏它们 - 例如,点一个定制汉堡(不放洋葱),以便得到一个现做的汉堡。或在 voodoo.md 中填入恰当的咒语。你只需一次软件更新,你‘学习’的一切可能被最新的算法所取代。(一个被去掉洋葱的潮湿冷汉堡) 你已经将与世界的合作,变成了为一个善变的机器人工作。随意认为“工具”等同于实用是个错误,例如说 - “LLM 没有为我的论文写作,我只是用它来阅读和总结一些研究论文”。但你并没有像使用 Kindle 那样使用它去阅读那些论文。是它在阅读这些论文,而不是你。 你放弃阅读时错过了什么?几乎所有的东西。首先,你错过了向会写作的人学习如何写作的机会。你错过了学习如何构建论点。你错过了观察到事物的机会。你错过了为新想法充实你的背景知识。你错过了对某些作者建立信任感和对其他作者产生怀疑。你错过了所有的笑话。你错过了所有的细节。你错过了学习如何思考。工具不会“失调”,不会“叛变”,不会“逃脱约束”,“共谋”等等。LLM 不是工具。我知道许多人使用“只是工具”这个短语,仅仅是为了表示“它们是你如何利用它们的”。但那并不正确。自动化具有固有的属性和与工具的差异,如果你忽视,将会自食其果。Rich

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡