从显然共谋窃取选举到虐待员工或表演尴尬的舞蹈，过去几年中关于政治家的大量虚假内容旨在中伤目标并误导公众。现在，欧盟规则旨在遏制这种欺骗性内容的泛滥：从周日开始，旨在看起来真实的人工生成图像、音频和文本必须被标记。这项根据欧盟标志性人工智能法制定的规则意味着公司必须确保人们在与人工智能聊天机器人互动或查看经过处理的图像或人工生成的文本时知道这一点。深度伪造包括斯洛伐克反对派领导人米哈伊尔·希梅克与记者共谋操纵选举的假音频。规则适用于自8月2日起在欧盟市场上的新人工智能系统，而现有系统则有额外四个月的时间来遵守。“这不仅是客户保护的问题，也是保护民主的事务，”曾参与谈判人工智能法的绿色党欧洲议会议员谢尔盖·拉戈丁斯基对《卫报》表示。“将这些信息透明化是我们保护民主和在线事实真实性所需的。”根据规则，旨在看起来真实的合成文本、图像、视频和音频必须明显标记为人工生成，并包含显示内容人工来源的数字水印。关于公共利益的文本如果没有人工编辑监督也必须标记为人工智能制作。尽管并非强制要求，公司被鼓励标记在这些规则之前生成的人工智能内容。规则将不适用于用户的个人内容，并且对于“显然艺术性”的嘲讽和虚构作品有特别豁免。未能遵守可能导致高达1500万欧元或公司全球营业额3%的罚款。欧盟执行机构已创建了任何人都可以使用的黑白标签，尽管公司可以设计自己的标签。深度伪造包括蒐集斯洛伐克反对派领导人米哈伊尔·希梅克与记者共谋操纵选举的音频、伪造的法国总统埃马纽埃尔·马克龙在1980年代夜总会跳舞的视频，以及有关当时英国工党领导人基尔·斯塔默虐待党工作人员的假视频。科技行业表示支持使深度伪造可见的努力，但担心这些规则会被过于广泛地解读，并使互联网用户不堪重负。计算机与通信行业协会认为，欧盟在7月发布的指南已将深度伪造的定义扩大到远远超过2024年人工智能法的范围。“标签旨在标记欺骗性内容，”CCIA欧洲的人工智能政策负责人博尼法斯·德·香普里斯说。“这个区别已被去除，因此几乎所有内容都被标记——广告中的风景与被操控的政治演讲是一样的。就像曲奇横幅一样，一旦标签无处不在，用户便停止注意它们。这对任何人都没有保护作用，它只会给各行各业的商业活动带来负担。”他认为，公众最明显的变化不会出现在社交媒体上，因为“社交媒体已标记大多数人工智能内容”，而是在“人工智能已经大规模使用但人们并不知道的领域——广告、电影、出版”。“在通常与人工智能不相关的领域，你可以期待更多的标签，而承担这种负担的将是那些对人工智能法规不太熟悉的企业，”德·香普里斯说。世界上一些最大的科技公司已经有政策来告知用户关于人工智能生成内容的信息。例如，TikTok要求创作者标记现实的人工智能生成图像、音频和视频，并表示它已帮助标记超过30亿条内容。谷歌在2023年推出了一种名为SynthID的工具，使用户可以检查图像是否为人工智能生成。该公司表示，已在超过1000亿图像和60000年的音频上放置了看不见的数字水印，能够进行识别。谷歌和拥有Facebook和Instagram的Meta已签署了一项自愿的行为准则，以帮助公司遵守欧盟的人工智能透明度规则。欧盟委员会表示，已有180多个组织签署了这一由独立专家在欧盟人工智能办公室的监督下制定的行为准则。签署该准则被监管者视为良好意图的标志，而未签署者必须以其他方式证明他们遵守规则。Meta在2024年推出了帮助人们识别人工智能生成的照片写实图像的政策。该公司表示，它一直在制定行业范围内的技术标准，以识别人工智能音频和视频。日前，Meta副总裁马克斯·雷尼希在宣布Meta有意签署欧盟行为准则时表示：“我们必须避免在线内容面临日益增多的不同标签和披露，最终让人们感到不堪重负，同时又……