1. 预兆正如倾盆大雨般袭来。思考或沉没。顺从或死亡。抬头或被抛弃。因此，在这些不那么温和的威胁下，AI时代——真正的愚蠢，真正的超级愚蠢，递归雪球式的愚蠢——已经到来。天哪，我在这开篇段落中已经用上了两个破折号。正如人们所说，这是一个明确的迹象。那么，也许我根本没有写这篇文章。你得用一个AI应用程序来检查它是否真的由AI生成，以及我是否真的、或不真的、或只是部分我。你再也不能依靠你的直觉。你必须使用应用程序。既然AI掌握了破折号，未来的世代将如何看待艾米莉·迪金森及她对它的热爱？她也被送入了机器吗？他们会因此更少爱她吗？我们是否正在逐渐被排挤出语言的交流？这还有意义吗？出于与作家自我相关而非信仰的原因，我一直对《圣约翰福音》的第一句深感着迷：“起初有道，道与神同在，道就是神。”我相信这是真的。我相信破坏和削弱人类与语言之间的基本关系会削弱社会连贯性的所有表象。人工智能已经冲击了文学界，令作家、出版商、文学代理人、读者、评论家、教师和学生都感到脚下的土地在让他们失去平衡。教授们现在必须以怀疑的眼光看待学生的作业。出版商必须像侦探一样检查新作家的潜在“犯罪现场”。很难描述这对阅读或学习的影响。智力参与的喜悦和挑战已经被一种封闭、尖酸和机械化的东西所取代。宛如一个剥制品的香格里拉，曾经活着的一切都被剥皮填充，毫不眨眼地凝视着你，目光中透出一种虚假的、亮晶晶的光芒。就像看着某个人，心中怀疑他是否真的是你认为的那个人。或者照镜子，看见自己的样子，却知道那并不是真的你。随着时间的推移，我们也许会失去这种认知。那么我们将不再知道我们是谁，甚至是否存在。当整个社会、整个物种都经历这种情况时，当我们不再能依赖经过数世纪传承下来的直觉，当我们不再能相信自己的心、眼睛或耳朵，当我们再也无法分辨真假或虚拟与真实，当时间崩溃，过去、现在和未来交汇在一起，数百万种语言和文化被搅拌成稀糊时，当一项古老的社会契约（无论其局限与缺陷）被粉碎到无法识别的地步，我们是否在为大规模的精神错乱埋下伏笔？这样的思考或许让我面临被指责为陷入必然的道德恐慌之中的风险，这种恐慌是在面对新奇复杂的事物时总会出现的——正是这种恐慌曾在工业革命或计算机到来之前出现。问题是：这就仅仅是这样吗？我们是否只是在经历人类“进步”演变过程中的一个不适时刻？抑或这确实是一次灾难性的断裂？或许我们应该倾听那些正在打造这项光辉新技术的人的声音。上个月，Anthropic的一名年轻员工雅各布·考克森辞去了他的工作，表示他的良知不允许他参与一个可能会灭绝人类的项目。他描绘的工作环境简直是壮烈的曼哈顿计划。但正如我们所知，这次的科学家们在很大程度上是出于利润和“率先达到”的竞争动机。考克森辞职后发生的事情让人困惑。最大的AI公司的首席执行官们相互争先恐后地讨论、反驳或赞同这位揭发者。他们在视频中以严肃的口吻告知我们，正在被奉为神明的机器神很可能会导致人类文明的终结。在确立了对我们物种的统治后，他们向我们保证，他们正在尽力降低风险。他们呼吁政府进行监管。他们的求助呼声暗示着某种病态情绪。这里似乎有些奇怪——一种“绑住我！控制我！”的感觉。是这样，还是资本主义的本质使然？面对不受约束的贪婪感到无能为力？这些寡头似乎确实相信自己的灭绝叙事——至少相信到在地球的角落里建立储存水、食物和弹药的掩体。然而，他们并不打算将灭绝的概念卖给其他人。（唐纳德·特朗普和技术自由主义者们公开称这是一场骗局。）进步、荣耀和人类的利益是他们推销的核心内容。Palantir的彼得·蒂尔甚至去