一名护士泪流满面，声称她因在网上发表移民观点而被解雇。一位农民指责工党政府故意摧毁英国农业，以支持进口外国肉类。一名男子观察移民抵达英格兰海岸，声称他们到达时被提供奢华住宿。这些关于英国的政治性激烈视频已经积累了数百万次观看，但它们都是使用人工智能（AI）创建的，制作团队距离英国超过5000英里。页面“生活在英国”在Facebook上拥有超过100,000名粉丝。尽管其所有视频均为AI生成，但Facebook（母公司为Meta）并未为其提供任何警告，尽管《独立报》在一个多月前就已向该科技公司提出警告。Facebook在该页面上的透明度信息显示，页面的管理者位于斯里兰卡，但其内容是针对英国观众制作的。这个AI生成的视频声称展示了伦敦市中心的一场大规模抗议（Facebook）。深度伪造和合成媒体检测公司Resemble AI的专家告诉《独立报》，该账号可能是一个旨在在线放大英国政治叙事的AI生成影响行动的一部分。Resemble AI为《独立报》分析了这些视频，发现多处迹象显示它们是用AI生成的，包括不自然的音频和视觉缺陷，比如扭曲的面孔。它评估这些视频有97%的可能是AI生成的。“来自外国实体的社会工程攻击并不少见。你会收到那些根本不在英国境内发出的诈骗电话。这非常相似，”Resemble AI创始人Zohaib Ahmed告诉《独立报》。Facebook在5月29日告诉《独立报》，在把该账号的情况呈现给他们后，他们正在调查，但未提供调查的时间表或说明是否会采取任何行动。在《独立报》询问这个账号是否有盈利时，Facebook没有回应。KCL战争研究系的访问高级研究员Dr Lukasz Olejnik告诉《独立报》：“AI生成的影响和宣传内容的使用正在上升。AI生成的视频特别重要，因为它可以创建虚假的视觉证据，容易分享，情感上具有说服力，并且难以快速验证。这些工具可以被个人，协调的非国家和国家行为者使用。”这个AI生成的视频错误声称显示移民乘船抵达英国（Facebook）。Dr Olejnik补充说：“对于英国来说，风险不仅在于选民可能会相信单一的虚假视频，而且反复接触可能削弱对机构、新闻、选举和外交政策决定的信任。”“而在领导力中，包括在危机时期。这为外部行为者利用敏感的政治辩论创造了机会，比如安全、移民、抗议、国防政策和与盟友的关系。”这种在线内容的潜在影响并没有被忽视。去年提交给下议院内政事务委员会的研究显示，AI生成的图像将穆斯林描绘为威胁，加剧了2024年的南港骚乱。据报道，极右翼账户在线传播操纵图像，强化了种族主义刻板印象，包括描绘穆斯林持枪或穿着自杀背心。伦敦政治经济学院的研究发现，包含这些种族主义阴谋论视觉描绘的社交媒体帖子比其他帖子被放大多30%。来自LSE的研究人员警告说，AI生成材料的上升，加上社交媒体算法奖励分裂内容，正在加速激进化，让极端主义思想更具可见性。在线虚假信息的增加促使伦敦市长萨迪克·汗上个月承诺投入700万英镑来解决这一问题，他表示首都遭受了“无情和前所未有的谎言和仇恨的攻击。”这一宣布是在大伦敦管理局（GLA）发布的报告之后，该报告发现过去两年中，描绘伦敦为衰退和日益危险城市的在线帖子增加了200%。这个AI生成的视频声称显示移民乘船抵达英国（Facebook）。“如果我想影响决策，最简单的方法就是此时创建生成的AI内容，在社交媒体平台上创建假AI账户。然后你就有一个分发渠道，”Ahmed先生说道。他补充说：“这些算法将几乎立即将那些内容推送给数百万人，获取几百万的观看量。因此，这几乎成了一场数学游戏。”今年早些时候，Meta的独立监督委员会警告该公司应更主动和更频繁地为其平台上的AI生成内容贴上标签。他们建议Meta投资于更强的AI生成内容检测工具。