两个AI未来：有两种对未来的设想：AI作为由少数宗教领袖建立和控制的神；以人类为中心，AI作为放大器。一个新的技术教士群体正在出现：这个小群体构建前沿系统，获得对它们的特权访问，并决定其他人可以使用哪些功能。教士们警告大规模失业，达里奥·阿莫代伊警告称，AI可能在五年内消除一半的初级白领工作（2025年5月）。萨姆·奥特曼表示，AI意味着客户支持工作“完全消失”（2025年7月）。穆斯塔法·苏莱曼预测，大多数计算机基础的专业工作将在18个月内全面自动化（2026年5月）。埃隆·马斯克提出“全民基本收入”作为补救措施（2026年4月）。他们认为这不一定会导致坏结果。让人们摆脱繁重工作可以释放时间去追求休闲活动。普通人听到大规模失业时会感到灾难。那他们如何支付房租或为孩子买食物呢？我们被确保，丰裕、再分配和新的意义形式将有所补偿。萨姆·奥特曼的“万物的摩尔定律”（2021）承诺“将所有权和财富直接分配给公民”；他的《温和的奇点》（2025）预见智能将变得“极为丰富”；达里奥·阿莫代伊的《爱的机器》（2024）探讨在失位后工作的意义。——在机器及其控制者的恩典下。一个微小的群体在机器智能和其他所有人之间进行调解。人类并未普遍参与引导这种智能或决定如何使用它。大多数人变成了决策、产品和丰裕的接收者，而不是参与者。最初，教士们可能会管理机器。但是随着其能力超越他们自身，这是谁指挥谁就变得不那么清晰。在这种设想中，他们创造了一个神灵，并且他们的角色越来越多地是照看它、解释它，并决定谁可以接近它。还有另一条道路：不是一个中央智能统治着数十亿被动用户，而是数十亿人学习如何引导自己能力强大的代理。未来是不均匀分布的。教士们热切专注于打磨矛头，以便它能刺穿越来越难的领域：解决百年数学难题。2026年1月，厄尔多斯问题#728成为第一个完全由AI自主解决的厄尔多斯问题（GPT-5.2 Pro加上Harmonic的亚里士多德，正式化为Lean）。在2026年5月，一个OpenAI模型解决了一个开放了80年的厄尔多斯问题。再加上发现过去30年未被发现的软件漏洞，Anthropic的前沿红队报告称，Claude Opus 4.6在高度模糊的生产开源代码中发现了500多个高严重性漏洞，其中一些漏洞几十年来未被探测。Claude Mythos预览随后在每个主要操作系统和浏览器中发现数千个零日漏洞，包括一个27年的OpenBSD漏洞。他们无疑将治愈疾病，德米斯·哈萨比斯在《60分钟》节目中（2025年4月）表示，疾病的终结“触手可及……也许在未来十年内”。他的Isomorphic Labs在2026年5月筹集了21亿美元以“解决所有疾病”。同时，他们将产生巨大的价值和财富。但是，谁将有权获得癌症的治疗？以及衰老的治疗？由于生物武器风险，药物发现能力受到限制。Anthropic在Claude Opus 4中启动了ASL-3保护，部署分类器限制与生物学相关的能力，以降低化学、生物、放射性和核武器的风险。随着Claude 5代的更新，这一模式更加深化：Fable 5是在双用途能力上配备安全分类器，而未限制的Mythos 5仅向获得批准的组织提供。在网络风险影响下，软件能力受到限制。未来的发展并不难以想象：由于加密风险，数学能力受到限制；由于假信息风险，创意能力也受到限制。OpenAI在接到SAG-AFTRA和名人遗产关于深度伪造的投诉后，将Sora限制为以同意为条件的肖像权（2025年10月）；NewsGuard发现，Sora制作了促进20个测试的16个错误主张的视频；欧盟AI法案第50条关于深度伪造披露的法律规定于2026年8月生效。政府要求了许多这些限制，前沿实验室往往支持这些措施。在GPT-5.6发布之前，OpenAI主动向美国政府预览了模型的能力；这些模型是OpenAI在生物和网络安全方面首次被评为“高风险”的，而发布大约与20个政府批准的合作伙伴开始。当时，选定的合作伙伴、研究人员和机构保留了对能力的访问，Anthropic的Project Glasswing最初将Mythos预览限制在一小群关键行业合作伙伴和开源开发者之间。在Fable 5达到一般可用性后，一项美国出口管制令迫使Anthropic在全球范围内禁用Fable 5和Mythos 5；当禁令解除时，Mythos 5仅对政府批准的组织恢复。