‘我有一种感觉，在几个月内，人工智能将成为所有人谈论的话题，’一位内阁部长以阴郁的目光表示。那是工党会议，大家都在为安迪·伯纳姆的接任和领导人换届后支持率的回升而欢欣鼓舞。但是，许多高级工党人士私下开始将人工智能的力量作为最令他们担忧的事情，除了生活成本和脆弱经济的紧迫压力之外。一位与技术无关的内阁部长告诉《卫报》，危险的、失控的人工智能是让他们失眠的问题，担忧对人类的威胁。他们解释说，令人担忧的不是“杀人机器人”，而是大量集中在坏人手中、超级智能的力量。另一位担心政府在处理人工智能安全问题上“落后于公众”，并且需要快速赶上。埃德·米利班德在工党大会上对人工智能的危险表示了强烈的观点。在他的大会演讲中，埃德·米利班德对人工智能“令人畏惧”的危险表达了最强烈的看法，认为政治家不能也不应该允许科技公司的利润“以我们的孩子甚至人类的代价为代价”。这些警报声响起并不需要太长时间，过去七天似乎是威斯敏斯特全面警醒于这些警告的一周。周一，人工智能部长卡尼什卡·纳拉扬状态这“极有可能，如果不是必然的话”，流氓代理将入侵英国国家，并表示英国正在寻求加强即将出台的网络安全立法。卡尼什卡·纳拉扬表示，‘极有可能，如果不是必然的话’，流氓代理将入侵英国国家。周二，这成为内阁讨论的主要话题，随后MI5局长肯·麦卡伦警告人工智能正在“超级充电攻击者和防御者之间的网络安全竞赛”。他说，最大威胁是极端主义团体利用该技术释放生物武器——致死和疾病的毒素。商业、创新、科学和贸易委员会主席利亚姆·拜恩表示，从基尔·斯塔默到伯纳姆的政府变更部分地推动了对保护英国免受人工智能威胁的关注，但仍需要更多努力。“事实是，斯塔默政府与大型科技公司过于亲近，”拜恩表示。“而伯纳姆就没那样，所以态度发生了变化。这些因素加上安全部门发出的警告，改变了局势。”一位高级工党政府官员同意伯纳姆政府更加认真对待人工智能安全警告。“我确实感觉到有了一些变化。在上一个政府旗下，太多人都喝了科技兄弟的‘ Kool-Aid’，”他说。肯·麦卡伦，MI5局长，警告极端主义团体利用人工智能释放生物武器。拜恩的委员会本周举办了一场证据会议，参与者包括负责人工智能安全的公务员领导和关键公司，包括Anthropic、OpenAI、DeepMind和Meta，其中关于政府是否应该强制测试新模型存在分歧。他表示，他的委员会正在将这个问题“点亮”，特别是在与美国合作监管和监控新模型方面。据报道，唐纳德·特朗普的政府曾要求人工智能公司不要将其最新模型与英国前沿的人工智能安全研究所共享以进行测试，尽管纳拉扬本周证实，他们设法保留了合作关系。但拜恩表示，政府现在需要抓住时机，在新监管方面走在前列，特别是如果特朗普的共和党在中期选举中失去国会控制权给民主党。“我认为政府仍然面临一个两难选择，即如何在一个任性的美国总统面前保持模型访问和行业自身当前认为是必要的保护措施之间保持平衡。我认为现在是做出决定的时候，”拜恩表示。“这些公司希望合作……发布致命模型并不符合他们的商业利益。现在，他们也必须驾驭白宫。所以我认为这是一个时刻，政府实际上应该为了国家的利益而做正确的事情，因为国会即将改变美国的局势。”利亚姆·拜恩表示政府现在需要抓住机遇并在新规制上引领。即将召开的G20峰会将是推动国际行动以遏制人工智能的关键时刻。杰弗里·欧文，前AISI首席科学家，本周在国会发言。