一些用于分析学生作业的AI检测工具被标记为不可信。照片来源：Paul Guzzo/Getty去年11月，爱达荷州立大学波卡特洛的化学本科生劳伦·贾格申请博士项目时注意到，一些申请网站警告学生不要在个人陈述中使用生成性人工智能工具。它们通知学生将使用检测器来识别包含AI生成文本的申请。这些网站并没有具体说明使用的是哪些检测器，但明确表示：“他们说如果认为个人陈述是用AI撰写的，他们将忽视你的整个申请，”贾格说。她对此并没有太多想法——因为她根本没有使用AI——但一位朋友表示他们通过网络上的AI检测器运行了自己的声明，仅仅是出于安全考虑。贾格决定也尝试一些她在网上找到的检测器。"它们都返回几乎100%是AI生成的，"她说。"我开始惊慌失措。" AI写作工具可以给科学家带来“时间的馈赠”回想起来，贾格想知道为什么她的论文被标记。她说：“我是化学专业，但差点成为英语专业。我从小就写很多东西，还研究过语法书。我认为自己是个好写手，但我非常遵循书本，严格遵守所有规则。也许这就是它认为是AI写的原因。”她最终完全重写了她的申请陈述。而且，她表示，她在写作时不是尽力而为，而是以一种确保不会被AI检测器标记的方式进行写作。“我故意让它变得不那么完美，”贾格回忆说。当她再次通过检测器检查她的论文时，它们预测该论文有30%的内容是AI写的。“我认为这已经足够好，就提交了。”当我们上次与贾格交谈时，她已被犹他大学盐湖城分校接受为博士生。贾格的情况以及类似案例正发生在全球范围内。面临大量可能由AI生成或严重改写的书面材料的大学，正在转向AI检测工具以帮助应对这个问题。而且，像其他AI技术一样，这些工具远非完美。自第一位苏美尔学生抄袭同学的楔形文字以来，教育工作者和作弊者就一直在试图智胜对方。在现代互联网时代，由加州奥克兰的Turnitin等公司提供的软件会在广泛的已发布作品语料库的基础上检测文本相似性。这使得人们直接剽窃文本变得更加困难。作为回应，作弊者上网寻找替身作家，付钱让他人为他们撰写作业。许多机构尝试现场或定时考试来防止这种情况。但这些方法也带来了自己的一系列问题，可能会使某些群体处于不利地位，鼓励死记硬背，并阻止学生展示他们进行深入研究的能力。影子学者：走进肯尼亚数十亿美元的假论文产业但大型语言模型（LLMs）为聊天机器人提供动力，例如ChatGPT，使得撰写工作变得更加廉价和快捷。许多接受采访的人注意到，尽管生成性AI建立在先前工作的语料库上，但它产生的写作并不容易被剽窃检测工具识别，这些工具通过与已发布的作品比较完整句子。西悉尼大学的学术诚信专家凯斯·埃利斯（Cath Ellis）表示，AI使用代表着根本的变化，无论在使用规模上还是对书面语言的理解上。“直到现在，我们大多数时候都能依赖于书面文件，”埃利斯说。但“我们现在开始看到这一巨大的欺诈或至少是高度伪造的过程，”她说。"进入这个过程的文章数量直线上升。"以火攻火越来越多的公司声称，他们所制作的工具能够识别由其他AI系统撰写的文本。市场上的产品包括Copyleaks、GPTZero和ZeroGPT，以及Grammarly、QuillBot和Turnitin制作的工具。许多AI检测器依赖于一种称为困惑度（perplexity）的度量，它估计在序列中每个单词的可预测性。由于AI生成的文本往往遵循比人类写作更具统计可预测性的模式，因此具有较低困惑度分数的段落更可能被标记为机器生成，而不那么可预测的措辞则被视为人类创作的信号（参见“AI的明显迹象”）。来源：M. Suvanto et al. 预印本于arXiv https://doi.org/rdhv (2026)问题是：这些工具真的有效吗？如果有可能错怪像贾格这样的学生作弊，这些工具是否应该被使用？学者们尝试评估这一点。2025年的一篇论文测试了GPTZero.