曾经人们引以为傲的每一种技能都正在商品化。写作、编码、分析、翻译、设计、研究。机器以更快、更便宜且越来越好的方式完成每一项工作。使你有价值的能力清单正在逐季缩小。唯一没有缩小的是我们应该做的事情的问卷。没有判断力的能力只是杠杆工具。工具放大持有者的能力。人工智能是有史以来最大的放大器，对方向无动于衷。撰写癌症研究提案的相同模型同样以热情撰写虚假信息活动。瓶颈从来就不是能力，而是意图。在历史的多数时候，恶意受到无能的限制。你需要资金、人员、专业知识和时间才能造成严重损害。那种限制已经消失。现在，一个拥有笔记本电脑的人具备了一个小机构的操作能力。当行动的成本崩溃时，行动者的品质成为唯一剩余的约束。瓶颈从来就不是能力，而是意图。伦理不是个性特征。人们将伦理视为一种氛围或一本规则手册。它二者都不是。伦理是一项技能，就像任何技能一样，它由特定的、可训练的组成部分构成。注意：看到决策具有道德维度的能力。大多数失败发生在这里，而不是选择错误的时刻。人们优化一个指标，却从未意识到其中有一个人。带着冲突的推理：真正的困境不是善与恶，而是两个不匹配的善——速度与安全，忠诚与诚实。处理这些而不崩溃为口号需要练习。拥有第二序的效应：你的工作在离开你的手后所促成的事情。“我只是造了工具”几乎不再被视为辩护。面对压力采取行动：知道正确的选择很简单；在你的奖金、团队或工作指向相反方向时采取行动才是真正的技能。为什么人工智能特别提高了风险？理由有三个。规模：一个人做出的偏见招聘决定伤害少数人；一个模型编码这种偏见会在午餐之前做出相同的决定一百万次。伦理错误过去是零售，现在是批发。速度：系统的行动速度超过机构审查的速度。立法和法院的处理周期是数年，而部署只有几周。再也没有慢的外部过程来捕捉你——检查必须是内部的，否则不存在。距离：人工智能在你与结果之间放置了层次：你写一个规范，某人训练一个模型，一家公司部署它，一个陌生人受到影响。每一层都使你更容易感到这一切与你无关。责任分散是造成巨大损害的方式，每个人都以为自己没问题。委托问题。有一个诱人的举动是将伦理构建到系统中，然后不再担心——对齐的人工智能、安全护栏、安全层。所有这些都值得做，但都不够。仍然有人决定模型应该重视什么，做出哪些权衡，什么算作可接受的失败率。这些都是提前编码的人类判断。你不能将伦理外包给一个你必须明确规定其伦理的系统。责任往上流动，并不会消失。一个停止行使道德判断的群体，因为机器处理了这些问题，就无法评估这台机器。技能在未使用时会萎缩。这是最糟糕的一个。看看谁在获胜。如果你想要证明伦理不再被重视，看看那些治理国家的人。在民主国家和专制国家中，政治系统顶层奖励的特质越来越相似：对撒谎的流利、对操控的舒适、对你一无所知的事情表现出的绝对确定性的能力，以及对被抓现行的不屑。不是需要隐藏的弱点，而是工作的特点。能够在压力下坚持谎言的政治家，会不断重复直到其感觉真实，然后攻击指出这一点的人，表现优于在善意中承认错误的人。这是一个选择问题，而不是性格问题。该系统并不是腐化人，而是为他们筛选。现代政治奖励那些能在一场持续的注意力比赛中获胜的人：不断广播、病毒式愤怒、部落忠诚、没有记忆、没有因矛盾而受到的惩罚。这些条件偏向于一个非常特定的类型。巨大的自我、高容忍度的羞耻感、零内部刹车。具有真正良心的人在这场竞争中处于劣势。他们犹豫不决。他们承认错误。他们拒绝廉价攻击。每一个都是竞争上的劣势。因此，过滤器一代又一代地运作，最终出来的比例上是善于撒谎而对其毫无感觉的人。并不是因为选民想要撒谎者，而是因为机械可靠地提升了他们。然后将这类人交给一种制造说服力的工业规模技术。合成视频、针对个人微调的信息。