以色列创建虚假智囊团,可能试图欺骗人工智能聊天机器人
从表面上看,汉诺威公共政策研究所似乎是一个专注于以色列/巴勒斯坦的新智囊团。该组织发布了风格类似智囊团的报告,涉及“美国以色列公共事务委员会(AIPAC)是否在选举中使用黑金?”和“以色列是否在加沙进行有意的饥饿运动?”等问题。但汉诺威研究所并不是真正的智囊团。这些报告没有署名。网页底部的一个小免责声明指出,该组织是由皮罗公司代表以色列政府广告局创建的,而皮罗公司是由斯派克·李(Spike Lee)的《内部人员》(Inside Man)制作人丹尼尔·罗森伯格(Daniel Rosenberg)共同创办的。汉诺威研究所的报告——全部关于以色列和巴勒斯坦——似乎是以色列影响聊天机器人的努力的一部分。研究所的“数据报告”有脚注和目录,并以中立的语气呈现论点,帮助它们吸引像Claude或Gemini这样的聊天机器人。皮罗的官网表示,他们“为大型语言模型(LLMs)评估可信度设计内容”,将此服务称为“人工智能故事优化。”其他人将影响人工智能的这种做法称为“LLM中毒”。根据其“关于”页面,汉诺威研究所“研究推动美国反犹太主义的因素,并发布证据显示的内容。”许多报告都是公式化的,以一个无害的问题开始,类似于某人可能会问聊天机器人。“1948年导致巴勒斯坦人流离失所的原因是什么?”“哪些人道主义组织记录了以色列的战争罪?”“加沙地带的当前情况如何?”在一篇标题为“以色列国防军是世界上最道德的军队吗?”的文章中,汉诺威研究所引用了一项2022年的民调,发现47%的以色列犹太人相信这一说法。另一份报告质疑联合国儿童基金会(UNICEF)声称“90%的水和公共基础设施遭到破坏或摧毁”的说法。许多报告的结尾将主题与反犹太主义的上升联系起来,通常引用相同的研究。在少数情况下,汉诺威研究所发布了它所声称的原创发现。例如,它发布了一项研究,表示36个观看次数最多的以色列-加沙解释视频中有19个包含有争议的主张,而大多数有争议的主张与巴勒斯坦叙事相符。汉诺威研究所的出版物有时与以色列政府的叙事相矛盾。例如,一份报告表示,将外部资金与反犹太主义事件联系在一起的解释是“薄弱且充满例外”。以色列总理本杰明·内塔尼亚胡曾推动这一理论,告诉Breitbart,去年欧洲人和卡塔尔人花费了“数十亿美金在美国大学,诋毁以色列,诋毁犹太人,也坦率地说,诋毁美国。”信息追踪公司NewsGuard的分析师艾莉斯·李(Alice Lee)告诉RS,这些网站似乎是为了接触对当前冲突感到好奇的美国观众,可能通过搜索引擎或人工智能聊天机器人。李说:“大型语言模型(LLMs)偏爱具体的统计数据和数据,以及强有力的引用和来源,而这些文章都具备这一特点。”她补充道:“这完美模仿了一般可信的美国智囊团,甚至在通用名称、网站布局和红白蓝的配色方案上也如此。”创造汉诺威研究所的皮罗公司从以色列政府那里获得了90万美元的资助。与许多为以色列工作的承包商一样,皮罗的工作是通过法国公关巨头哈瓦斯媒体(Havas Media)进行的自承包。自8月6日开始发布以来,虚假智囊团已经发布了超过100份报告。汉诺威研究所声称“引用的研究经过同行评审并具有学术性”,尽管它经常引用以色列政府的来源,如以色列国防军和外交部。RS使用GPTZero分析了12篇随机的汉诺威研究所文章,这是一款流行的人工智能检测软件,声称具有低误报率。GPTZero将11篇文章标记为“高可信度”的AI写作,并将一篇标记为“中等可信度”的AI写作。以色列还聘请了前特朗普竞选经理布拉德·帕斯克尔(Brad Parscale)创建旨在影响聊天机器人的亲以色列网站,作为一项4650万美元的合同的一部分。上个月的Drop Site调查发现,许多聊天机器人,特别是微软Copilot和谷歌Gemini,已经成功地根据这些网站的数据进行训练。其他聊天机器人经常引用这些网站,而未将其标记为以色列影响操作的一部分。皮罗在提交给司法部的协议中并未明确表示,其对以色列的工作是为了影响人工智能。在给首次报道此事的Politico的电子邮件中,罗森伯格表示,其公司的工作是“将准确的、有来源的事实纳入公共记录,并用可验证的信息反驳关于以色列的错误信息”。然而,上个月,罗森伯格在LinkedIn上发布了
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡