本周生效的欧盟新人工智能透明度规则旨在让人们更容易识别人工智能生成的内容和系统，专家表示加拿大应该迅速效仿。从周日开始，欧洲运营的人工智能系统必须设计为在用户与人工智能而非人类互动时明确通知用户。此外，使用这些系统的平台和服务现在必须清楚地标识出人工智能生成或操作的内容，如旨在看起来真实的深度伪造。加拿大全国正在进行公开咨询，以制定自身的人工智能透明度规则，人工智能部长埃文·所罗门表示，在人工智能越来越融入日常生活的背景下，这比以往任何时候都更为重要。但人工智能研究人员表示，随着系统变得更智能，真实与虚假的界限日益模糊，时间不等人。“我们处于与那些利用生成性人工智能进行错误信息和攻击社会机构的行为者之间的信息和误信息的军备竞赛中，”萨斯喀彻温大学的副教授兼人工智能、数据与冲突中心的共同主任布赖恩·麦奎因表示。“如果我们不能[向人们发出信号]，让他们知道他们使用的生成性人工智能材料实际上是生成性人工智能，那我们就有问题。”新的欧洲规则是欧盟广泛的人工智能法的一部分，该法律于2024年8月生效，但给予了两年的时间以使透明度义务生效。规则在提供者（如OpenAI等创造人工智能系统的公司）和部署者（使用这些系统的平台和实体）之间略有不同，一些公司（如Meta和xAI）同时属于这两个类别。提供者不仅必须确保其系统被设计为在用户与人工智能互动时进行通知，还必须确保由这些人工智能系统生成或操作的内容包含“机器可读”的标记，以便可以被识别为人工智能。人工智能系统的部署者必须清楚标识深度伪造视频、图像和音频文件，以及在“公共利益”问题上生成或操作的人工智能文本。只有涉及真实和存在的人、地点、事件或物体的深度伪造才需要标识。欧洲委员会已经引入了一组可根据在生成深度伪造时使用了多少人工智能而使用的图标。例如，完全由人工智能生成的视频将使用“AI生成”图标，而使用人工智能更换政治家的面孔的真实照片需要“AI修改”图标。基本的“AI”图标可以用于文本标签，指定深度伪造的哪些部分是由人工智能生成的，例如视频中的声音或音频。一些平台如TikTok和Instagram已经开始用自己的图标和文本免责声明标记AI生成和操作的内容，欧盟规则明确表示这些标签是可以接受的。尽管欧盟图标本身是可选的，可以代替平台自己创建的图标使用，但“标签要求……不是，”委员会强调。基于人工智能的情感识别和生物特征分类工具的部署者也必须明确告知用户他们正在与人工智能互动。新的透明度规则伴随着严格的处罚。未能遵守的公司可能面临高达1500万欧元（2420万加元）的罚款，或者全球年收入的3%，而欧盟机构和机构则可能面临高达750,000欧元（120万加元）的罚款。规则还强调，使用人工智能创建的“艺术、创意、虚构或讽刺作品”不需要贴标签，或面临“有限的披露要求”。“很明显，他们一直在努力平衡不同的利益——例如，不希望通过过多的披露而导致披露疲劳，以至于人们不再关注，”渥太华大学信息法与政策的加拿大研究主席特雷莎·斯卡萨表示。 “不过挑战之一是知道这是否是正确的平衡，因为我们正在处理一个新事物，欧盟走在了这个问题的前沿……我认为这会是未来几年被评估的事情，以看看这些规则是否需要调整。”加拿大在6月推出的新《人人享有的人工智能》战略承诺在其首要支柱中采取措施改善透明度，专注于安全和“保护加拿大人”。该战略具体...