世界观 2026年6月12日 教皇的信函不仅仅是宗教文件，还诊断了科学界应当关注的人工智能治理失灵。作者：帕奥洛·贝南蒂 帕奥洛·贝南蒂是意大利罗马LUISS圭多·卡尔大学的技术伦理学和道德哲学教授。神学家帕奥洛·贝南蒂将教皇的通谕视为对整个社会的信号。来源：Massimo Di Vita/Mondadori Portfolio via Getty 5月15日，教皇利奥十四世签署了他的第一封通谕信，标题为《Magnifica humanitas》（拉丁语，意为“辉煌的人性”）。在其中，他选择警告社会关于人工智能的问题。这封通谕——曾用于向罗马天主教主教们发信的正式格式，现在旨在作为对所有人的道德声明——对谁治理人工智能及以谁的名义做出决策作出了诊断（见 go.nature.com/3qxctvc）。利奥十四世描绘了人工智能集中权力的前所未有的方式。他提出了一些私人参与者在没有民主授权和超越国家监管框架的情况下，做出关于数十亿人使用的系统中编码价值观的关键决策的担忧。智能幻觉：为什么人工智能并没有看起来那么聪明 该文件讨论了自主武器、民主话语的破坏和通过人工智能使用造成的职业替代。它强调了“算法治理”的风险——一种治理体系，其中算法做出之前由人类做出的决策。例如，在一些司法管辖区，预测性算法被用于告知警务策略和判刑决定。《Magnifica humanitas》值得科学界认真关注。这并不是因为教皇对人工智能的发展具有法律或监管权威——他并没有——而是因为该文件指出了一个持续被低估的结构性问题。塑造人工智能系统如何推理、优化什么以及嵌入谁的价值观的能力是一个政治问题。依赖人工智能的自我监管——例如在美国的主流做法，主要依赖于自愿的伦理承诺而非强制性的法规——更像是责任的放弃而非治理。一些科学家通过保持他们的研究中立，实际上对这一点是有默契的。为什么科学家应该关注宗教文本，而学术和政策报告已经标出了这样的问题？当天主教会将其整个教学权威的机制投入到一个社会问题中时，往往是因为世俗机构——大学、议会、科学学院——无法或不愿意解决人类共存的基础上的裂缝。例如，在工业革命期间，教皇利奥十三世在1891年警告自动化的影响，他觉得这可能会将工人降级为可互换的商品。20世纪30年代的通谕回应了极权主义的崛起，包括法西斯主义、纳粹主义和斯大林主义。《Magnifica humanitas》正在敲响同样的文明警钟。支持性？成瘾？虐待？人工智能伴侣如何影响我们的心理健康《自然》654, 573 (2026) doi: https://doi.org/10.1038/d41586-026-01876-z 竞争利益 作者声明没有竞争利益。相关文章 智能幻觉：为什么人工智能并没有看起来那么聪明 支持性？成瘾？虐待？人工智能伴侣如何影响我们的心理健康 人工智能被编程为劫持人类同情——我们必须抗拒这种倾向 为什么我们需要强制性保障措施来保护情感反应的人工智能 为什么不能信任人工智能撰写科学评审 ‘有帮助’的人工智能的隐藏成本 最新动向： Z世代对人工智能的怀疑是一个警醒——大学必须严肃对待 世界观 2026年6月10日 精确基因编辑人类胚胎引发赞美与警报 新闻 2026年6月5日 科学侦探在Thermo Fisher抗体目录中发现100多张可疑图像 新闻 2026年5月29日 本届世界杯可能是技术最高的——值得关注的创新 新闻 问答 2026年6月11日 改进的量子处理器逻辑错误率通过纠错和检测 文章 2026年6月10日 微软升级有争议的量子芯片——研究人员仍持怀疑态度 新闻 2026年6月3日 本届世界杯可能是技术最高的——值得关注的创新 新闻 问答 2026年6月11日 我多样的学术背景正在影响我的博士研究——我该怎么办？ 职业特写 2026年6月11日 工具在研究人员提交论文之前标记可疑期刊 新闻 2026年6月11日