科技公司如谷歌在伦敦设立了主要办公室。信用：Tim Robberts/Getty 当美国公司Anthropic的人工智能模型Mythos今年早些时候向有限的公司群体推出时，关于该系统的黑客能力和对网络安全的威胁的传言迅速传播。只有在AI安全研究所（AISI）——一个由英国政府支持、位于伦敦的机构——评估了该模型之后，关于该模型能力的真实清晰度才显现出来。伦敦，特别是国王十字的科技区，正在崛起为美国以外人工智能公司的关键中心（见“国王十字中心”），总部位于美国加利福尼亚州旧金山的Anthropic和OpenAI都在那里开设了主要办公室。而该市的方法与其国际对手有着明显的不同。英国没有与美国和中国竞争生成越来越大和更强的模型，而是专注于人工智能安全和理解新兴模型的风险。AISI——自愿审核公司提交的前沿模型——是多个全球运营的英国人工智能安全实验室之一。“英国在伦理、负责任的人工智能和人工智能治理方面一直处于领先地位，”伦敦玛丽女王大学研究伦理、技术和社会的David Leslie说。位于伦敦的安全生态系统还包括Apollo Research，一个进行了高调研究的实验室，研究模型对人类用户‘图谋’的潜力，以及非营利组织GovAI，前身为人工智能治理中心，合著了有影响力的研究，例如提出使用计算资源的获取作为治理人工智能的方法。伦敦大学学院、阿兰·图灵研究所和牛津大学等学术机构也在附近，提供人工智能研究专长和研究生人才。尽管专注于人工智能安全被证明是英国一个成功的细分市场，但一些研究人员强调AISI不能替代监管机构。其他人还担心，人工智能安全的狭义定义过于集中在保持模型的控制和安全，降低了对更广泛社会影响的关注，例如透明度和广泛采用的后果。伦敦的呼唤 伦敦更广泛的人工智能生态系统是围绕DeepMind建立的，这家人工智能公司成立于2010年并在2014年被谷歌收购。其联合创始人Demis Hassabis确保在出售后这家公司留在伦敦。该公司的一些校友在伦敦创办了主要初创公司，包括由人工智能研究员David Silver成立的Ineffable Intelligence，该公司在今年早些时候筹集了11亿美元的种子资金。身处英国“让我们有更多空间去思考事情，以稍微不同的方式，而不是一直身处旋涡中，”Hassabis在2025年对《自然》杂志说。尽管“炒作文化”在英国人工智能社区中不断增长，但Leslie补充道：“评估科学的方式始终更加深思熟虑和基于证据。”英国政府试图通过将该国推销为比美国更稳定、比欧盟更具创新性来吸引外国公司。今年3月，在Anthropic因伦理问题与美国国防部发生争执后，伦敦市长萨迪克·汗向该公司写信，赞扬其立场，并邀请其在伦敦扩张，该公司在下个月就这样做了。科技公司认为，英国对他们的利益“比欧盟更友好”，而欧盟有相对严格的欧盟人工智能法，Leslie说。“大科技公司感到他们不仅在知识人才方面拥有丰富的环境，而且在伦敦的监管环境和政府环境也非常友好，”他说。围绕伦敦国王十字车站的城市规划已经将该地区转变为欧洲顶尖的人工智能集群。信用：Michael Szebor/自然 安全第一 在绘制人工智能风险的努力中，伦敦的突出居民是AISI。它是由前首相Rishi Sunak在2023年首次全球人工智能安全峰会上推出的，该峰会在英国米尔顿凯恩斯的布列奇利公园举行，此时该国处于国际人工智能安全推动的前沿。这来源于“对政府需要了解人工智能前沿发生什么的强烈信念，”该组织的首席技术官Jade Leung说。AISI执行行业范围的评估，例如模型在多大程度上按预期工作或能够说服公众等。谷歌DeepMind、OpenAI和微软等公司也提交其模型进行测试，例如检查它们在创建生物武器方面的能力。AISI研究人员尝试分解模型的