微软总裁布拉德·史密斯呼吁对人工智能进行紧急监管，他的论点是，像牛奶和洗衣机这样的消费产品拥有比构建人工智能的公司更多的监管。在最近的一期BBC播客中，史密斯称人工智能既是“武器”也是“工具”，并表示这将全球的网络安全置于风险之中，并且表示“时刻已经到来”，应该制定全球安全规则。史密斯还表示，英国而不是美国或欧盟最适合在全球安全规则上发挥领导作用。英国的人工智能安全研究所于2023年成立，能在大型模型部署之前获得美国前沿实验室的访问权限，并迅速成为人工智能安全测试的领导者。然而，这一角色近年来受到威胁，美国总统唐纳德·特朗普警告反对“全球主义”组织，他声称这些组织正在干扰美国公司。据报道，上个月他要求Anthropic和OpenAI不向英国测试者公开新的模型，但AISI在周一证实它能够访问和测试最新模型。尽管总统的反对意见，史密斯认为英国可以以美国无法做到的方式监管人工智能。他在BBC中表示：“在华盛顿特区，人们和看布鲁塞尔的方式不同去看英国和伦敦。这是一种优势。”他的评论正值科技领袖，包括Anthropic的达里奥·阿莫德和OpenAI的山姆·阿尔特曼，呼吁在多次人工智能代理失控的事件后放慢人工智能发展的步伐。上个月，特朗普在白宫接待了包括OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta和谷歌的科技领袖，讨论人工智能安全。他们签署了一份“道德约束”的文件，同意与“独立审计员”合作，评估他们的人工智能模型的安全性和能力。史密斯表示，该文件是一个“良好的步骤”，但不足以达到必要的监管。他指出，自我监管的问题在于“守规矩的公司”会遵守。“你需要担心的是那些不负责任的公司，”他说。史密斯列出了他希望实施的几项人工智能安全规则，例如在其系统被失控的人工智能代理入侵时，有法律义务通知相关组织。他似乎也支持人工智能实验室在发布人工智能产品之前获得外部评估者的批准，并对可以在失控时暂停或减缓人工智能的“灭活开关”表示赞同。“让我们冷静地说，也许甚至温柔地坚定地开始团结人们，”史密斯说道。“我希望这就是我们作为公司的角色。我希望这就是英国作为一个国家能扮演的角色。”当您通过我们的文章中的链接进行购买时，我们可能会获得小额佣金。这不会影响我们的编辑独立性。丽贝卡·贝兰是TechCrunch的高级记者，她覆盖人工智能的商业、政策和新兴趋势。她的工作还出现在《福布斯》《彭博社》《大西洋月刊》《每日野兽》等出版物上。您可以通过电子邮件联系或验证来自丽贝卡的联系，邮箱是 rebecca.bellan @ gmail.com，或通过加密消息在Signal上联系 rebeccabellan.491。查看个人简介。