影响者莉莉·杰伊的内容因使用AI和视频操控而受到质疑。(ABC NEWS Verify) 警告：以下内容包含AI生成和增强的视频。这位说着澳大利亚口音的金发女郎在Instagram视频中微笑着向她数百万的观众打招呼。她身边围绕着微笑的非洲儿童，手中拿着棒棒糖。她兴奋地 exclaims: “Alhamdullilah! 孤儿院现在开放了！” 使用了一个阿拉伯短语，意为“一切赞美归于真主”。莉莉·杰伊在社交媒体上记录了她皈依伊斯兰教的过程，单在Instagram上的粉丝就接近300万。她的金发，常常被头巾勾勒，结合她关于伊斯兰信仰的热情视频，为她在全球穆斯林中赢得了忠实的追随者。她最近成立的基金会，莉莉·杰伊基金会，也拥有庞大的追随者。它的标志经常出现在她视频中的横幅上，通常固定在她身后。在2月份发布的其中一段视频中，观众被介绍给“我们在非洲的新孩子”。他们穿着印有莉莉·杰伊基金会标志和乌干达国旗的白色T恤。“我们给他们洗了澡，给他们新的衣服，一切一个孩子在积极环境中成长所需的，”画外音说，配合着快乐儿童的画面。但ABC NEWS Verify的调查揭示了一条AI生成的虚假信息链，令某些基金会的慈善活动产生怀疑。视频开头那位热情宣布孤儿院成立的女性并不是真正的莉莉·杰伊。这个金发女郎是人工智能生成的。同样，手中拿着棒棒糖的孩子和她身后基金会的横幅也是如此。ABC NEWS Verify发现了莉莉·杰伊基金会Instagram页面上发布的视频中的不一致之处。(ABC NEWS Verify) 视频中并不是唯一一个看起来是AI生成的镜头。在某个时刻，一名莉莉·杰伊基金会工作人员T恤背后出现了额外的L。这种拼写错误通常与AI生成相关。(ABC NEWS Verify) 解开莉莉·杰伊基金会 在乌干达，未在政府注册的孤儿院是非法的。乌干达注册服务局起初向ABC NEWS Verify确认，尚未以莉莉·杰伊基金会的名义注册任何孤儿院，或在她网站上提到的“阿达努尔”名称。ABC NEWS Verify向莉莉·杰伊基金会询问孤儿院的问题，但未得到回应。几天后，注册了一家名为“Lilly [sic] Foundation Limited”的公司。它在乌干达注册服务局网站上的状态被列为“不合规”。尚不清楚该注册是否与莉莉·杰伊基金会有关。验证人员无法找到任何独立的资料证实该孤儿院的存在，也无法找到乌干达熟悉该基金会的援助操作员或政府官员。澳大利亚世界愿景前首席执行官兼麦卡澳大利亚主管蒂姆·科斯特洛表示，孤儿院常常被用来利用公众的善意。“孤儿院里孩子的照片犹如无与伦比地牵动捐赠者的心，”他说。 虚假信息泛滥 莉莉·杰伊基金会的网站和社交媒体账户自去年至少9月以来定期发布声称在尼泊尔、加沙、乌干达和苏丹的援助活动。它声称已经建造了一座清真寺，发放了食物，提供了教育和分发古兰经。她邀请公众捐款以支持这些项目。今年5月，发布了一份新闻稿，宣布莉莉·杰伊获得了一项人道主义奖。“莉莉·杰伊荣获2026年澳大利亚-全球人道主义领导杰出奖，”新闻稿上说，并附上莉莉·杰伊接受奖项的两张图片。分析确认这两张图片都带有ChatGPT无法察觉的SynthID水印——表明这些图片是由其工具生成的。此次握手是由AI生成的。莉莉·杰伊站在四个AI生成的人物中间。(莉莉·杰伊基金会/开放AI) 这份新闻稿是来自一家名为Real Media Group的公关公司。它在其网站上发布了该公告，并将莉莉·杰伊称为其“客户”。但在Real Media Group的网站上，还有一个显示其团队照片的页面。莉莉·杰伊的照片也在那里展示——被称为其“联合创始人”。ABC NEWS Verify未能找到与该奖项相关的任何信息，而不限于该基金会或Real Media Group。Real Media Group的网站展示了其团队的照片。(Real Media) 模糊现实与虚构的界限 尽管该奖项是生成AI虚假的明显实例，但基金会的Instagram账户上使用AI的方式确实使人们很难区分事实与虚构。在乌干达孤儿院的视频中，虚假镜头似乎与真实的视频交错在一起。