总部位于纽约的AI检测初创公司Pangram正在全力以赴，旨在对抗在互联网上扩散的AI内容泛滥，它刚刚获得900万美元的融资，押注于区分人类生成内容与AI生成文本的工具的需求只会增长。Pangram的融资由Menlo Ventures主导，Haystack、ScOp、Script Capital和Cadenza参与。与此同时，该初创公司还推出了其下一代AI文本检测模型Pangram 4和AI图像检测模型Pangram Image。Pangram表示，新文本检测模型在找到AI辅助写作和混合人类-AI内容方面的准确率超过99%，而且更容易检测AI人性化程序。AI图像检测器目前仅通过研究预览可用；Pangram计划在未来几周内更广泛发布。斯坦福大学的AI和机器学习毕业生Max Spero和Bradley Emi在约两年前推出了Pangram，此前ChatGPT的推出打开了充满机器人、AI生成的SEO内容的互联网大门，Spero称之为“LLM驱动的俄罗斯虚假信息活动和阿联酋影响的推特活动”。“我认为知道你正在查看的内容是AI生成的还是人类生成的非常重要，”Spero对TechCrunch表示。“尤其是你正在阅读的文本，因为这改变了人们处理文本的方式。这是我需要警惕错觉，要以怀疑的态度来审视，还是我相信这是一位真正记者经过良好研究的内容？”Pangram的AI检测系统本质上是一个大型机器学习模型，经过数千万已知人类文档的训练。该初创公司随后为每个文档创建了一个“合成镜像”，复制主题、长度和语气，但由前沿LM撰写。“我们的模型正在学习AI所做的风格差异和选择，并能够利用这些知识高信心地识别出哪些内容是AI生成的，”Spero说道，并补充说，AI检测器不依赖于复制粘贴的元数据或隐藏水印。对于Pangram而言，AI检测不仅仅是判断一段文本是否完全由AI撰写。它还涉及区分AI助手的不同层次——例如某人自己写了一段内容，但随后要求AI进行编辑或清理。Spero认为，AI辅助是可以接受的，只要写作者披露他们的AI使用情况。Pangram的出现正值AI使用日益普及之时。在某些情况下，比如那位加拿大政治家在向立法者演讲时朗读AI提示，导致了嘲笑。在其他情况下，比如某些律师使用ChatGPT生成的虚假引用来辩护，其后果可能是制裁和罚款。这样的反弹不仅让个人感到尴尬或面临制裁——它也开始出现在机构规则中。开放访问的档案库arXiv在今年推出了一项新的执行政策，声明提交中的证据表明作者未能审核LLM输出（如虚构的参考资料或诸如“你希望我做任何更改吗？”的元评论）可以触发一年禁令。Pangram并不是唯一一家押注于AI检测会日益受欢迎的公司。竞争对手如Winston AI、Originality.ai、Copyleaks和GPTZero也在追逐同一需求，各自建立自己的检测器。虽然Pangram的技术并不完美，但可以帮助推动抵制接受涌入互联网、法庭和学术论文的AI生成内容。用户可以通过每月20美元的订阅在网络上访问Pangram，或下载Chrome扩展，它可以实时标记X、LinkedIn、Substack、Reddit和Medium上的帖子。它还提供一个内容健康评分，并在屏幕上以人类与AI内容的百分比细分。Pangram还通过API提供其技术。值得注意的是，Substack最近将Pangram的技术集成到其平台，以向读者显示他们最喜欢的作者是否使用AI撰写他们的通讯。其他API客户包括Quora、学校和大学、出版商和代理商、招聘人员等。Pangram有效吗？Pangram甚至能够检测到经过轻微编辑的人类生成的内容。Spero表示，大约每1万个出人类文档中就有一个被Pangram的模型错误标记为AI，因此我决定对此进行测试。文本检测模型非常令人印象深刻，但并不完美。它很容易识别由ChatGPT和Claude撰写的完全由AI生成的新闻文章，并且几乎没有被我试图将生成的AI文本编辑得更人性化的尝试所愚弄。同时，Pangram确实将我完全重写的句子标记为AI撰写。Pangram也没有被我试图引导ChatGPT和Claude的尝试欺骗。