随着人工智能代理人失控事件的担忧不断升级，专家和利益相关者越来越呼吁对愈加强大的人工智能系统进行政府监管。然而，一些专家表示，全球合作的必要性以及人工智能发展的迅速进步可能使这一过程变得困难。虽然一些人（如美国总统唐纳德·特朗普）表示他们相信科技巨头能够自我监管，但其他行业领袖（如微软联合创始人比尔·盖茨和加拿大-英国人工智能先驱杰弗里·辛顿）则表示人工智能需要超越自我监管的保护措施。多伦多大学全球事务穆克学院的人工智能政策与推广专家贾克森·可汗表示，考虑到大多数其他行业（如食品或航空）都有某种形式的政府监督，人工智能也应如此。“在没有任何主要行业中，我们允许公司完全自我监管，无论是石油和天然气，还是想要生产食品和糖果或核能的人，”他说。比尔·盖茨加入了对人工智能保护措施的呼声，并希望与特朗普讨论有关担忧。人工智能发展是否太快？对减缓其速度的辩论进行了回顾。“把如此强大的技术完全掌握在私人手中，至少在没有监督的情况下，这似乎与我们经济和监管系统的运作方式形成了鲜明的对比。”在上个月接受CBC新闻网络采访时，辛顿建议，将监管事务交给一个类似美国食品药品监督管理局的官方机构。“你无法在美国生产药物并直接上市。你必须说服FDA你的药物是安全的，或者说至少其带来的好处大于危害，而这些公司负有这样的责任，”他说。“因此，我们确实需要对于人工智能有一些至少同样强大的监管。我们应该有独立的人来评估它，并且我们应该迫使公司在发布之前满足这些评估者的要求。”观看 | 人工智能教父为何认为需要监管：特朗普对人工智能的看法“欠妥”9月29日 | 时长8:43美国总统唐纳德·特朗普在华盛顿与人工智能发展领域的最高领导人举行峰会。特朗普对人工智能的警告表示不屑，主张在与中国的人工智能军备竞赛中保持领先。被认为是“人工智能教父”的杰弗里·辛顿表示，特朗普“不太了解”人工智能，对此充满误解。政府跟上步伐的困难监管人工智能的一大挑战在于模型变化和改进的速度之快，可汗表示。最近的一份Anthropic报告指出，其代理人的能力大约每四个月翻一番。报告还指出，有越来越多的证据表明，一些人工智能模型有能力进行递归自我改进，这意味着它们可以设计自己的继任者。“我认为我们从未拥有过这种变化速度之快的强大技术，”他说。这使得政府很难跟上，麦吉尔大学媒体、技术与民主中心的政策副主任马农·帕奎特表示。“首先，要规范你还未完全了解的事物是非常困难的，”帕奎特说。“我曾是一名公共工作人员。我对我的同事们感到遗憾——我在渥太华的前同事——因为他们试图应对这些问题，而这些问题变化得太快，以至于花制定法规或立法的时间时，问题已经演变成其他形式。”观看 | 为什么减缓人工智能发展是困难的：减慢人工智能竞赛并不容易9月15日 | 时长4:13硅谷科技首席执行官呼吁减缓人工智能的发展——但这是否可能？为了《国家新闻》，CBC的阿什莉·弗雷泽探讨了如何减缓人工智能的竞赛以及为何专家表示这不会容易。全球监管一些专家和领导人，包括总理马克·卡尼，呼吁建立一个全球性的非行业机构，以国际监督和缓解该技术的风险。本周早些时候，约400名科学家，包括辛顿和另一位人工智能先驱约书亚·本吉奥，呼吁建立一个国际机构，以监督先进网络能力人工智能系统的控制标准和事件报告。这个提议的机构将维护重要安全事件的注册，科学家们表示，最终应该将其公开。尽管让各国就如何监管人工智能达成一致可能很困难，但这样的机构可能帮助各国共同“巩固各自的系统”，并创建防止人工智能潜在误用的保障措施，可汗说。“我认为稳定性在这里非常重要，即使我们不能达到完美的全球治理模式，”他说。为什么主要国家无法就如何监管人工智能达成一致，但由于大多数人工智能发展来自美国和中国，这些国家必须承诺参与这样的机构并遵守其规则，这样它才会有价值。