人工智能学校论文作弊即将通过水印曝光
2026年8月12日下午3:15 — 由Anthropic AI生成的学校论文将因公司详述的隐形水印系统而轻松且可靠地被标记,尽管该公司尚未描述其确切工作原理。作为系统的一部分,Anthropic 的 Claude AI会在生成的文本中穿插不可察觉的信号。然后,如果有人怀疑有AI生成的写作被假冒为人类写作,他们可以使用尚未描述的检测机制扫描这些信号。该检测系统可以应用于各种写作,但在学校中或许最为有用。教师们越来越被要求判断作品是由学生书写还是由AI生成的。Getty Images “因为水印是文本的一部分,所以在复制并粘贴文本到其他地方时,它将随文本一起移动,并可能在一些编辑过程中保留,”Anthropic在一篇帖子中表示。“水印将在模型级别上应用,这意味着无论文本来自哪个Claude产品或平台,都将存在。”该公司并未描述水印是如何工作的,只是说它是文本的一部分,且不会影响输出的意义、质量或可读性。这使许多观察者得出结论认为它类似于一些现有的文本水印系统; AI将根据设定的规则可靠地使用某些模式或单词组合。因此,只要检测系统知道这些规则,并且假设文本段落足够长,它将肯定地判断出是否由Claude生成。该检测系统可以用于任何内容,从工作申请到个人电子邮件,但在学校中或许最为有用。教师们越来越被要求判断一篇论文或作业是由学生书写还是由AI生成的。Anthropic 的承诺是为了遵守新的欧洲法律,这些法律要求AI公司建立合理的透明度措施,尽管它表示水印将适用于全球。任何新模型从第一天起都将包括水印,而现有模型将在未来更新。OpenAI已同意这些规则,并开发了自己的文本水印系统,但尚未将其公开部署到ChatGPT。谷歌开发了自己的版本SynthID Text,它应用于Gemini输出。所有三家公司,及苹果公司,均对生成的图像应用标准的C2PA水印,以便检测,谷歌还添加了其自己的附加水印,旨在在裁剪和重新格式化后生存。尽管教师们可能对这些发展感到高兴,但AI输出的水印并非没有其批评者。许多作家将检测系统比作由同一公司拥有并出售的抗毒剂,或者是由纵火者设计的灭火器。在这最新一轮系统之前,AI检测行业长期以来被批评者称为保护勾当。存在生成文本的工具,检测生成文本的工具,还有人性化生成文本以避免检测的工具。用户在每一步都会支付订阅费用。任何参与过Claude AI的文本都将被Anthropic的检测系统标记。Getty 强烈使用Claude的用户对这一举措表示强烈反对,认为这将惩罚普通用户,同时掩盖最糟糕和最危险的用例。在ClaudeAI的reddit上,用户表示水印将干扰输出质量,特别是在编码方面,会阻止使用Claude来改进或检查人类创作的作品,以防插入水印,并将被犯罪分子轻易逆向工程,制作去除水印的工具。如果他们的担忧得到验证,这意味着一个只使用AI进行语法检查的小说作者可能会被检测工具标记为不合格而被阻止出版,而一个外国政府的宣传者则可以“证明”一篇完全由AI生成的宣言是合法的人类写作。在其帖子中,Anthropic确实承认,使用Claude检查人类作品可能导致该作品被该工具标记,这意味着积极的结果只是证明写作已被AI接触或处理,而不是它完全是由AI写的。相反,消极的结果并不意味着是人类写的文本,因为其他AI写作工具的普及。因此,对于学校而言,这仍然意味着必须对所有AI使用保持严格的禁令,并部署多种检测系统。每周五在我们的科技通讯中获取关于科技、电子设备和游戏的新闻与评论。点此注册。Tim Biggs是一名报道消费科技、电子设备和视频游戏的作家。通过X或电子邮件与他联系。来自我们的合作伙伴
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡