这是《The Stepback》，一份每周简报，解析科技世界中一个重要故事。想了解更多关于AI混淆的信息，请关注Robert Hart。《The Stepback》在我们的订阅者的收件箱中于东部时间上午8点送达。选择订阅《The Stepback》。 一切的开始 最初，AI影响者相对容易识别——也容易被忽视。除了偶尔的炒作，他们似乎对社交媒体的运作没有太大影响。最早的虚拟影响者——拥有齐刘海和雀斑的Lil Miquela、泡泡糖粉色短发的Imma以及完美肌肤的Shudu Gram——显然是数字制作的。合作发布时也伴随着喧嚣。帖子需要工作室、资金、协调以及大量润色。 随着时间的推移，我注意到我时间线上的假人看起来越来越像其他人。像Emily Pellegrini和Aitana Lopez这样的角色逐渐接近现实——或者至少接近那个你大学时没有保持联系的、永远在很好的餐厅和美丽地方拍照的有钱朋友的现实，或是在Coachella和温布尔登发帖的朋友。不完全容易理解，但同样地，大多数职业影响者也并非如此。 即便如此，许多账户并不算是标准的账户。Lopez是一个名为The Clueless的西班牙创意代理机构的产品，该机构管理着一系列AI影响者。Pellegrini的创作者，采用化名Professor EP，告诉我他曾管理OnlyFans创作者。现在，他出售课程教人们如何制作自己的AI影响者。而这正是人们开始做的事情。很多人。 现状如何 新奇感已减退。早期的AI影响者之所以突出，是因为数量太少。现在它们是涌入社交媒体的更大一团AI生成内容的一部分：低质量的垃圾内容懒惰地从聊天机器人复制而来，粗糙的图像和视频，还有那首在我的TikTok上火了一个月的朗朗上口的《指环王》迪斯科歌。假人现在无处不在。它们在推销薄利多销的垃圾，利用假照片诈骗男性的钱，传播虚假信息和种族主义论调，并迎合一个日益奇怪、往往是性别化的小众市场。当然，其中有很多吸引眼球的内容。 还有很多平淡无奇的内容，头像们只是简单地复制人类创作者中的热门内容，通常只是将它们的假面孔贴在其上。这使得AI内容创作者的影响力很难衡量。平台不会公开有多少用户是假人，而且大多数AI头像的受欢迎程度或影响力不足以证明它们能获得早期潮流所获得的媒体关注。像Virtual Humans这样的数据库跟踪数百个流行头像，但那些只是那些奇特、古怪或足够引人注目的账户。在它们之下则是一个完全低调的账户海洋。这些账户能够避免被发现的部分原因是，它们所使用的技术已经显著改善。现在，虚假人的静态形象可以足够好，以至于一眼看去可以被认为是真实的，尤其是在一个充斥着善用舞台布置、滤镜和编辑效果的真实影响者的动态中。 视频和音频也在快速赶上，给虚拟人以声音和动作，足以欺骗那些不太挑剔的浏览者。这些工具也不再是小众或过于昂贵的。像Google和OpenAI这样的主流产品与Higgsfield、HeyGen和ElevenLabs等公司的专业服务并肩而立。经过一点努力，几乎任何人都可以制作一个AI影响者——或者一系列影响者——而不需要工作室、专业设备或（太多）资金。 所有这些都给社交媒体平台留下了一个问题，他们似乎并不特别愿意直接解决。经过几年的挣扎，处理AI生成的图像、视频和音频后，大多数主要平台现在都有某种政策来涵盖合成媒体。但除了要求对AI生成的内容标记外，这些规定往往只是草草将这些材料归入现有类别中，涵盖诈骗、垃圾邮件、假冒和图形内容等。如同真实的人，特别是那些被设计得像真实人的AI人，无法整齐划一地归入任何一个类别。它们并不一定在进行诈骗、发布图形内容或假冒某人——它们究竟会假冒谁呢？如果它们披露其帖子是AI生成的，并不明显它们违反了哪些规则。 目前，各个平台似乎满足于生活在模棱两可中，既不完全欢迎也不排斥AI创作者。它们培养了一个矛盾的立场，促进AI作为创造工具，同时也试图阻止一波波垃圾内容淹没它们的服务。YouTube、TikTok、Instagram和其他平台已制定了标记合成媒体的规则，尤其是现实主义类型，同时也在推广自身的工具。