埃利亚·勒布勒是维基项目AI清理的创始成员，这是一个在2023年启动的志愿者项目，旨在找到并删除违反网站指南的AI生成材料。当清理工作开始时，AI写作常常通过明显的陈词滥调被识别出来。今天，该项目的志愿者正在开发检测更微妙形式的机器生成内容的工具，并讨论AI在全球使用最广泛的百科全书中的角色。你是什么时候意识到维基百科在AI生成材料方面存在问题的？埃利亚·勒布勒：大约在2023年12月。我和几个其他编辑在维基百科的Discord服务器上聊天，大家都看到了一些奇怪的文章，具有相同的奇怪特征。它们重复了像“作为证明”或“丰富的文化遗产”这样的短语。有时它们有结论部分，或称为“这为什么重要？”的部分。这在2023年和2024年初是ChatGPT非常典型的，但对于维基百科的文章来说却是非常奇怪的——而且很容易被发现。然后我决定，让我们在维基百科上创建一个官方项目，以便更多人能够处理这个问题。埃利亚·勒布勒 埃利亚·勒布勒是维基项目AI清理的创始成员。勒布勒正在法兰西国家数字科学与技术研究院的雷恩大学攻读AI博士学位。编辑们今天是如何发现AI生成写作的？勒布勒：到2025年，AI写作的迹象变得更加微妙和结构化。例如，AI喜欢“三的法则”、负面平行主义和其他在自身上并不结论性的演讲结构，但随着它们的累积变得有意义。我们还会超越文章进行观察。如果某人在5分钟内写了五篇每篇数千字的文章，就有理由怀疑AI。这一问题仅出现在主文本中，还是也出现在引用中？勒布勒：假冒或误导性的引用已经成为一个主要担忧。有时候AI完全虚构一个引用，尽管由于允许AI找到来源的检索增强生成，这种情况如今已经少见。更多时候，它找到一个真实的来源，但却错误地理解其内容。不支持所写内容的AI引用是极为普遍的。英语维基百科最近禁止编辑们使用LLMs生成文章。还有多少AI生成的内容继续通过？勒布勒：我一直在与[AI检测公司] Pangram合作估算AI生成内容的比例。我在ChatGPT之前对维基百科内容进行了测试，发现没有假阳性，因此其结果提供了一个非常保守的下限。在2025年底，它标记了大约20%的新文章和草稿为AI生成。在2026年初，这一比例下降到了15或16%。但我们尚不清楚这是否是因为我们的最近政策产生了影响，还是因为模型变得更强大而Pangram还没有适应过来。维基百科是否在利用AI来对抗AI？勒布勒：另一位维基百科编辑创建了一个AI来源验证器，该验证器会检查页面上的来源是否与声明匹配。由于它本身是一个AI模型，因此不能保证它每次都是正确的。但如果你想要一个有效的、能够筛选出明显案例的工具，这确实是一个好的第一步。维基媒体基金会也在研发一个名为Paste Check的工具，该工具可以标记直接从某些AI聊天机器人粘贴的文本。我们还看到克劳德有时说：“我不能写维基百科文章；这会违反维基百科的政策。”如果所有主要的AI公司都实施这种拒绝提示，这并不能完全解决问题，因为仍然存在可以调整以避免限制的开源模型。但这对使用商业模型且不太熟悉技术的人会有所帮助。你能判断禁止AI写作的规定是否有效吗？勒布勒：目前判断还为时尚早。我们看到可能的效果，比如提示拒绝和AI生成内容的明显轻微减少。但再说一次，我们尚不清楚这是否是因为模型变得更好，还是初学者正在学习规则。绝大多数AI生成的内容由初学编辑提交，因此我们做了许多努力，使这一规则在欢迎信息、编辑帮助和建议中非常明显。如果AI能够撰写真正可靠的维基百科文章怎么办？勒布勒：这是我们面临的一个重大问题。当这一指南通过时，是出于非常实际的原因：我们被AI内容淹没，我们没有好的工具，必须对其进行制止。但自那时以来，这一问题已呈现出更具哲学性质的维度。许多人称维基百科为“互联网最后一个好地方”。作为一个理论上摆脱AI垃圾的地方，已经成为维基百科身份的一部分。维基百科的大部分沟通现在围绕着我们是一个人工撰写的百科全书的理念而展开。