灭绝级资本主义：公民对人工智能风险的思考。人工智能本质上是一种政治技术。如果人工智能按预期运行，它将逐渐侵蚀我们的自由民主，冒着不可逆转地转向另一种政治和经济格局的风险。在人工智能风险中，这种风险值得更多的关注，因为它不需要额外的条件，如恶意行为者或人工智能故障。人工智能只需放大现有趋势，尤其是在资本集中方面。这种损害将发生，即使假设在近期内，人工智能将广泛改善物质福祉。关于MB 我是一名自雇的作家、设计师、程序员和律师。2022年，我了解到我自己的作品已包含在生成性人工智能公司的训练数据集中。作为回应，我发明了第一组针对这些做法合法性的诉讼。我目前是多起人工智能案件原告的共同律师。虽然我在下面讨论某些法律问题，但我不是你的律师，本文中的内容不应被视为法律建议。这些是我作为公民和经济参与者的个人观点；我仅代表自己。本文采用了我设计的Equity、Advocate和Triplicate字体进行排版。你可以为自己的论述和小册子授权使用这些字体。涌现效应 二十亿年前，构成如今称为科罗拉多高原的岩石层开始形成：首先是火成岩和变质岩，然后是许多层沉积岩。大约五千万年前，通过构造作用，这个高原升高了数千英尺。大约五百万年前，一条河流开始流动。这条河流带着淤泥和碎屑，刮擦出峡谷的开端。这条河流深化了峡谷，露出峡谷的墙壁，受到天气和侵蚀力量的影响，进一步扩大了峡谷。今天，这条水道是科罗拉多河。这一地质形成就是大峡谷。大峡谷的形成不需要任何人类行为，零技术，零河流、土地与重力之间的协调。从这个意义上说，大峡谷是一个涌现效应：一个复杂的、不可预见的输出来源于更简单的输入。但我们绝不会怀疑河流是否有感知能力，或河流是否关心它在峡谷中携带的泥土。水只是做水该做的事情：向下流动。泥土正好在路上。 本质上是政治技术 兰德农·温纳是一位政治理论家。温纳写了优秀且具影响力的论文《人工制品是否有政治？》（1980）。温纳试图揭穿传统的框架，认为“技术是……中立的工具，可以被好坏、善恶或介于两者之间的方式使用。”相反，温纳提出了技术如何影响其政治环境的两种方式：该技术设计用于产生某些政治效果。例如，中国的“防火墙”，一系列限制中国公民访问外国信息源的技术措施。相反，Tor项目旨在最大化用户匿名性，阻碍政府的侵入。该技术本质上是政治的。这是温纳的关键分析支点。温纳描述了两种本质上是政治的技术版本。第一种是技术“确实需要……一组特定的社会条件作为其操作环境”。例如，核武器：拥有这种危险技术的唯一负责任的方式是将其置于“一个集中的、严格等级的指挥链……原子弹必须是专制的；没有其他途径。”第二种是技术“与某种政治安排‘强兼容’”（即使不是严格要求），因此倾向于使该安排实现。作为一个例子，温纳考虑了机械番茄收割机。该机器在20世纪50年代在加州大学戴维斯分校开发，生产率惊人。但它也很昂贵。只有资金充足的番茄种植者才能负担得起。其他人无法竞争。根据温纳的说法，加州番茄种植者的数量从20世纪60年代初的约4000人减少到1973年的约600人，导致约32000个工作岗位流失，对这些社区造成了复合负面影响。温纳总结道：我们在这里看到的是……一个持续的社会过程，在这个过程中，科学知识、技术发明和企业利润在深深根植的模式中相互强化，这些模式印有政治和经济力量的不可否认的烙印……反对像番茄收割机这样的创新的人被视为“反技术”或“反进步”。因为收割机不仅是奖励某些人同时惩罚其他人的社会秩序的象征；它在真正意义上是那种秩序的体现。不仅是象征——是体现。一个表面上中立的技术发明——在这里，就是一个番茄收割机。