“看起来如此真实”:人工智能如何被针对印度穆斯林女性作为武器
新德里,印度——当萨姆丽娜·阿尤布第一次看到那段视频时,她感到震惊。这位来自印度控制的克什米尔的自由模特在去年用手机浏览时,一位朋友发给她一段在Instagram上流传的剪辑。视频似乎讲述了她在新德里的生活,配有旁白、滚动字幕和像电视新闻片段一样的标题。但是,这完全是捏造的。“这就是真正的偷窥,”24岁的阿尤布说。“他们从我大学的第一学期跟踪我的生活到最后一学期。”视频拼接了阿尤布在新德里贾米亚·米利亚·伊斯兰大学学习时期的照片——这些都来自校园生活的日常瞬间,包括小组项目、告别聚会和与同学的自拍。视频中的配音是使用人工智能生成的,虚假声称她是一位“在向印度教徒男性出售身体”的穆斯林女性。视频错误识别了照片中的人物,把她的亲兄弟称为她的“皮条客”。“它看起来真实得就像如果有人,甚至是我的父母,看了这段视频,他们会认为这是真的,”阿尤布说。她是几位经历了研究人员所描述的愈发明显的模式的穆斯林女性之一:利用人工智能生成性别化图像和宣传。半岛电视台联系了几位遭到攻击的穆斯林女性。她们拒绝公开发言,理由是感到羞愧和重创的风险。‘性幻想变为图像’ 性别化穆斯林女性图像和视频的趋势正在与印度对人工智能治理的全球讨论日益增长的参与相伴随,包括今年早些时候在新德里举行的高层AI影响峰会,专注于创新和监管框架。位于华盛顿特区的组织仇恨研究中心(CSOH)的一项研究分析了从2023年5月至2025年5月在X、Facebook和Instagram上收集的297个公共账号的1,326个公开可用的AI生成的图像和视频。研究人员发现,性别化的穆斯林女性描绘产生了最高的互动——在这些平台上超过670万次的互动。“生成性人工智能使性幻想转变为图像成为可能,速度快且几乎没有成本,”该研究的合著者、CSOH的数字研究分析师泽尼思·汗说。“图像生成器和深度伪造技术允许个人用极少的技术知识将敌对叙述转化为高度真实的视觉材料。” 研究人员并不是唯一关注这一趋势的人。由孟买RATI基金会运营的在线安全热线Meri Trustline也注意到了这种案件的日益增多。这条热线的2024年报告揭示了一个令人担忧的模式:虽然媒体关注通常集中在名人和政治家身上,但不在公众视野中的女性也正通过这些图像受到攻击,尽管这些图像是人工生成的,但仍可能造成实际伤害。这条热线的前线顾问,包括与幸存者合作的萨勒曼·穆贾瓦尔,他的工作为该组织的许多已发表证据奠定了基础,表示他们已记录到此类案件数量的上升。自2022年成立以来,Meri Trustline处理了超过482个案件,其中大约10%的案件涉及数字操控的材料——随着AI工具变得越来越易得,这一比例正在增长。“这些违规行为被羞耻、恐惧和创伤所掩盖,”穆贾瓦尔说。“事件很少向即使是亲密的家庭成员透露,更不用说在更广泛的公共话语中公开讨论。”‘政治的色情化’ 阿尤布的视频在数小时内在多个社交媒体账户上流传开来。随之而来的有辱骂评论、威胁电话和对她品德的指控。“这感觉就像数字私刑,”她说。“不仅仅一个,而是十多个账户在各处发布那个视频,还有成百上千的其他人转发。” CSOH编制的数据集包括将穆斯林女性描绘为穿着宗教服装的性暗示场景的AI生成的表情包,以及针对记者和活动家的虚假色情图像。在这些图像中,研究人员观察到一个反复出现的视觉模式:一位“穆斯林编码女性”和一位“印度教编码男性”。“在这些叙述中,穆斯林男性通常被描绘为暴力或道德败坏,”汗说。“与此同时,穆斯林女性被描绘为顺从或被来自主要群体的男性‘拯救’。”研究人员认为,这种图像并非政治话语的附带现象,而是其一部分。路德维希·马克斯大学的媒体人类学家萨哈娜·乌杜帕表示,正如这种叙述所指向的那样,这种数字暴力正日益成为对女性话语权和安全的现实威胁。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡