OpenAI已禁止一组来自俄罗斯的ChatGPT账户，称这些账户被用于支持隐秘的在线影响活动，以传播虚假信息。该公司在调查人工智能生成的社交媒体帖子后发现了这一问题，OpenAI在周二的博客中表示，这导致其发现了“一个更为广泛的影响操作”。该活动是“围绕一个包含抄袭和错误归属学术作品的网站建立的，一个将俄罗斯描绘为有利的‘主权’指数，以及掩饰操作者俄罗斯来源的努力，”该公司补充道。这是亲俄行为主体利用人工智能传播虚假信息的最新事件。OpenAI不允许在俄罗斯访问其模型，但公司表示使用了VPN来伪装位置。2月份，OpenAI表示，它已关闭与Rybar相关的ChatGPT账户，该公司是亲俄媒体，被英国政府描述为“部分由总统办公厅协调”，由俄罗斯国有企业Rostec资助，并与俄罗斯情报机构的成员合作。CNBC已联系伦敦的俄罗斯大使馆和俄罗斯外交部以寻求评论。亲俄影响活动的操作者用俄语提示生成社交媒体评论，这些评论发布在Substack、Telegram、X、Facebook和LinkedIn上，并指示ChatGPT隐藏任何表明它们是俄语的语言线索，OpenAI表示。生成的很多内容宣传了一个名为国际伯克研究所（IBI）的组织，该网站上有从真实学术写作中复制的文章，有时附有错误归属。影响活动还创建了一个“主权指数，”OpenAI表示，该指数赞美俄罗斯并贬低西方国家。尽管该活动的直接影响似乎有限，该公司补充说，“该活动的重要性在于所建立的基础设施，而不在于它所覆盖的受众。”OpenAI表示，ChatGPT生成的帖子指向一个“看似可信的机构，配备声称的专家，重新发布的学术作品和所谓的专有风险指数。”该公司补充道：“这表明影响力演员如何利用人工智能作为支持工具，在更广泛的努力中制造权威，模糊有利叙事的来源，并建立可能会随着时间推移而扩展的资产。它还表明，他们支持使用人工智能的方式可能导致更广泛的操作被揭露。