德国一地方法院发布的裁定可能会重塑全球搜索引擎和基于人工智能的聊天机器人操作。慕尼黑地区法院初步裁定，谷歌对其AI摘要功能生成的一系列虚假陈述负责，要求该公司防止通过其搜索引擎传播错误或不准确的声明。根据Decoder首次报道的案件，两家出版商发现谷歌的AI生成摘要在某些搜索中将它们与可疑商业行为、诈骗和订阅相关的欺诈行为联系起来，且没有任何依据。今年早些时候，受影响的公司向这家科技巨头发送了停止侵害通知。谷歌否认责任，辩称其自动摘要功能警告用户信息可能包含错误，应该自行验证。法院的分析得出结论，谷歌的AI将与可能的非法行为相关的其他公司信息与原告的数据结合，从而产生了在搜索引擎链接的任何来源中都不存在的关联。法院认为，与传统搜索引擎仅显示第三方发言的链接列表不同，谷歌的工具基于对互联网可用信息的误解，生成了“独立、新颖和实质性的陈述”。法院指出，纠正错误信息不是第三方的责任。谷歌是唯一一个能够修改其AI生成摘要技术的实体，因此“必须承担责任”。此外，法院发现谷歌的辩护缺乏依据，因为被质疑的摘要“包含在搜索结果中根本不存在的陈述”。 关于网络上AI的新（且强有力的）解读法院对AI在呈现搜索结果中作用的解读可能使本案成为历史性先例。它认为一家大型科技公司对其在广泛使用平台上的最先进开发影响负责。迄今为止，在大多数法律体系中，搜索引擎被视为仅仅便捷访问互联网内容的工具。这种状态为它们在发布信息虚假、不准确、误导甚至是诽谤时提供了一定程度的保护。然而，德国法院认为，当搜索引擎结合生成性AI系统时，这一保障不再适用。根据其推理，这项技术能够基于多个来源生成虚假的声明，因此负责运营该技术的公司必须为产生的内容承担责任。法官们还指出，虽然谷歌鼓励用户由于AI模型的幻觉潜力而验证信息，但这一警告并不免除内容分发者的责任。否则，他们辩称，虚假陈述的受害者将几乎无助，因为原始来源并未作出那些陈述，因此无法受到法律诉讼。此外，法院还认为，AI系统生成的结果不能依据言论自由原则受到保护，因为它们是由公司设计、训练和管理的算法的产物，而非个人意见的表达。作为预防可能再次发生的措施，该裁定要求谷歌删除在本案中被认为是诽谤的大部分陈述，并承担80%的法律费用。阿斯科技（Ars Technica）引用的一位公司发言人表示，该决定可能会被上诉。“我们深度投资于AI摘要的质量，以确保绝大多数回答提供准确的信息，并旨在反映互联网上存在的信息，”声明中说。“我们正在仔细审查这一决定，该决定尚未最终确定。”德国法院的裁定可能对全球人工智能行业产生影响。开放AI（OpenAI）、Anthropic和Perplexity AI等公司也警告用户，其系统生成的回应可能含有错误或误导，并和谷歌一样，建议在使用之前核实信息。这种警告通常可以在用户创建平台账户时同意的服务条款中找到。然而，本案认为，这种警告不足以使开发者免于责任。裁定认为，当AI生成的新陈述在其原始来源中并未直接出现时，设计、训练、运营和管理该系统的公司必须对这些陈述造成的任何损害承担法律责任。此故事最初出现在WIRED en Es上。