两个月前，我们推出了我们的Chrome扩展，以帮助解决社交媒体上日益严重的低质量内容问题。它允许用户在滚动社交媒体时扫描帖子，标记AI生成的内容，从而使他们能够做出明智的决定来分配自己的注意力。Pangram是一家以研究为先的公司，不仅在行业领先的AI检测算法方面，还在跟踪AI生成内容的风险和普遍性方面。社交媒体是这里最难研究的领域之一——比新闻文章、研究论文或亚马逊评论要难得多。但它也是最重要的之一，因为这是我们面临的潜在AI生成内容的最高量来源。我们相信了解这个问题很重要，以便我们能够更好地应对。这就是为什么我们在Chrome扩展中包括了一个选择加入的设置，允许用户通过匿名分享他们的扫描统计数据来帮助我们的研究。我们将这几个月的数据整理成了以下报告。主要发现：社交媒体上四分之一的长篇帖子被标记为完全由AI生成。在我们标记为AI生成的所有帖子中，三分之二来自LinkedIn。近一半的X/Twitter文章包含AI写作。AI生成的内容对长篇内容影响最大。我们的数据集中，AI生成的内容出现在所有社交媒体平台上。所有扫描项目的平均AI比率为13.8%，但具体比率因平台和项目长度而异。在五个平台中的四个上，长内容比短内容更可能是AI生成的。在所有平台中，四分之一的长篇项目（超过250字的项目有25.72%）是完全由AI生成的。Substack是一个例外；在这里，完全由AI生成的内容的比率保持相对平稳，较长、较实质的帖子实际上比较短的帖子稍微不那么可能是AI生成的。LinkedIn是AI饱和度最高的平台，其中超过40%的长篇帖子被标记为完全由AI生成。但是，如果我们包括混合AI和人类内容，X/Twitter的情况最糟：近一半的X文章要么完全由AI生成（23.9%），要么为AI辅助/混合（22.9%），仅有53.2%的X文章被标记为完全由人类创作。我们的数据表明，AI生成的内容是所有平台上的问题，尤其是对长篇内容影响最为严重。即使在AI比率最低的长篇平台Substack上，仍然有超过五分之一的帖子（21.9%）被标记为AI生成或AI辅助。这与我们在其他写作中看到的AI生成内容的上升趋势一致，例如在报纸的意见文章中。AI低质量内容正在涌入LinkedIn。LinkedIn的AI份额是所有平台中最高的。LinkedIn上的帖子占扫描项目的三分之一，但占我们标记的所有AI内容的近三分之二（62%）。与人们的期望相反，大家在与他们真实身份相关的专业场合中，愿意压倒性地使用AI来代替自己发言，而在休闲和匿名的平台上则不太可能使用。LinkedIn还通过多种方式鼓励在其平台上使用AI，包括内置的“与AI写作”按钮（现在重新品牌为“增强帖子”，但仍提供AI写作协助）。人们注意到了LinkedIn日益增长的低质量内容的声誉——或许为了对抗这种现象，LinkedIn的一位高管最近宣布该平台将使用内部算法检测和降低AI生成的帖子排名；具有讽刺意味的是，该公告本身也是由AI生成的。无论公司是否试图调节其动态中的AI，我们的用户仍然在LinkedIn上看到大量的AI写作。在我们的数据中，Reddit是扫描量最高的平台，占我们扫描的项目的36.7%。然而，Reddit的AI总份额只有4.4%，是所有平台中最低的之一。这是由于组成效应：Reddit上的回复几乎完全是人类创作的（98.1%），而回复总共占我们扫描的Reddit项目的72%。Reddit上的顶级帖子更可能是AI写作，占帖子总数的11.6%，与X/Twitter的10.0% AI饱和度一致。同样的模式在LinkedIn上也是如此，尽管程度较轻：顶级LinkedIn帖子比评论更可能是AI生成，概率为1.35倍。尽管LinkedIn的回复比帖子更不可能是AI生成，但在控制长度时效果正好相反：与顶级帖子相比，LinkedIn的评论实际上稍微更可能是AI生成。对于Reddit而言，AI比率的差异与帖子格式无关——控制长度后，顶级Reddit帖子仍然有5.25倍的机会被AI生成。Reddit上没有AI的回复指出了许多反机器人策略的盲点。尽管Reddit的垃圾邮件政策有效消除了使用AI自动生成垃圾回复的账户，但这种方式仅会捕获最低努力的垃圾内容。