研究人员警告，展示水果和蔬菜进行血腥暴力行为的AI生成视频在TikTok上传播极端主义议程，对年轻人形成了“激进化的潜力”。全球极端主义与技术网络（GNET）表示，这些短片绕过了旨在严格禁止极端暴力内容的社交媒体平台的审查政策。这些视频掩盖在“可爱”和“皮克斯式”的视觉风格中，传达来自极端组织的信息，包括极右派的“加速主义”、“虚无主义暴力极端主义”和所谓的伊斯兰国（IS）组织，GNET在周一的一份报告中详细说明。这些暴力场景是人工智能短片展示类人食物演绎戏剧化浪漫、背叛和丑闻故事情节的广泛趋势的一部分。GNET这一由全球互联网反恐论坛（GIFCT）支持的研究倡议的专家表示：“基于暴力的AI垃圾（低质量、批量生产的数字内容）强化了对暴力的迷恋，从而使所谓的在线‘颂歌暴力’在数字空间中逐渐获得立足点。” “然而，更令人担忧的是，从荒诞的AI生成剧作到明显的图像内容的升级。” “这种内容的激进化潜力不仅仅在于意识形态信息的传播，更在于残酷、情感麻木的正常化和算法放大震惊文化。” “从无害的超现实幽默到血腥的AI暴力的转变反映了一种在线激进化的更广泛动态：通过不断接触越来越暴力和去人性化的图像，逐渐侵蚀情感界限。” 在一些视频中，动画食物使用枪和斧头来杀死它们的敌人，而其他视频则与特定的犯罪团伙有关。专家表示，“基于食物暴力的AI内容易于获取，使未成年人和年轻人面临无意中接触图形或令人不安内容的风险。” 一项研究发现，其中一个示例似乎复制了官方IS视频的内容，展示了一根胡萝卜使土豆“爆炸”。另一个则展示了一位“胡萝卜哈里发”，对他的军队说“胡萝卜国将再次崛起”，专家表示这会让人联想到IS使用的一个臭名昭著的口号。两条IS帖子包含了该恐怖组织支持者常用来传播宣传的标签。报告还突出了一个分享暴力水果和蔬菜AI内容的账户，并引用了新纳粹恐怖组织原子弹部门，以及虚无主义暴力亚文化“无生命重要”。研究人员表示，内容评论中包含极右翼意识形态的言论，“土豆至上”的信息指代白人至上。报告中包含的一条帖子展示了一幅AI图像，描绘了一颗西红柿，上面写着：“没有蔬菜重要。” 研究人员表示：“显然，AI生成的平台是在线创建病毒内容的关键工具，包括上述案例中的暴力和极端内容。” “基于食物暴力的AI内容易于获取，使未成年人和年轻人面临无意中接触图形或令人不安内容的风险。” “AI水果和蔬菜的场景简单且高度重复。它们不需要认知努力，通过意外场景提供持续的奖励，非常适合无尽的滚动。” “它们专门为算法设计，生产速度极快，并针对参与度进行了优化。因此，它们成为注意力陷阱。” 团队对用户可能“偶然”接触恐怖材料并接触到在线生态系统的可能性表示担忧。GNET补充道，这些评论可能充当“沟通中心”，用户在此提供额外信息。 “这种类型的内容可以为消费进一步的基于暴力的视听材料奠定基础，使年轻用户陷入在线激进化和视听暴力消费的陷阱。” 作者呼吁TikTok制定“对策”，有效限制此类AI生成内容。TikTok已被要求发表评论。