让一个聊天机器人训练另一个聊天机器人可能是灾难的配方。多名举报者告诉《新科学家》，受薪众为了通过提供高质量的对话和测试培训新的AI模型，正在作弊，利用聊天机器人如ChatGPT来完成工作。看似普遍的这一做法可能会危及AI的未来，因为它可能导致更高级模型的“崩溃”。目前大多数运行中的AI模型是通过从互联网抓取的文本和数据进行培训的。但随着模型规模的扩大，需要更多的训练数据，AI公司开始使用工人进行与AI的对话和测试，希望产生的高质量数据可以改善未来大型语言模型(LLMs)的能力和实用性。这些工人通常是由第三方雇佣，而不是直接由AI公司雇用，且往往在没有全职合同和低薪的情况下工作。根据一位名叫Alice*的工人的说法，这可能会激励他们采取捷径，比如使用聊天机器人来更快地完成任务，尽管这违反了公司政策。“这是非常普遍的；我工作过的每一家公司都有明确的指导方针，显然他们会尽量抓住这些情况，所以我认为他们是关心的。但我认为他们无法阻止它，”Alice说。 Alice表示，她对使用ChatGPT完成培训任务“丝毫不感到内疚”，她说，只要你指导聊天机器人避免通常明显的AI输出迹象，比如大量的破折号，就很容易做到。“只有最马虎的用户才会被抓到，”她说。“任何对AI特征有一点意识的人都可以告诉他们的输出不要使用这些特征，那时你怎么办？” “如果这些公司想要高质量的数据，他们就应该提供高质量的合同，”Alice说道。“相反，他们低估了挣扎中的人，以尽可能少的时间雇用他们，项目完成后毫无预警地抛弃他们。” 另一位工人Bob*曾为名为Outlier的培训平台工作。起初，他的任务是AI培训，他说他非法使用AI进行培训，后来被提升到领导角色，工作的一部分是抓捕其他人做同样的事情。“管理层在轻度容忍和明令禁止之间摇摆不定，”Bob说。Outlier的工人会使用一个名为Hubstaff的工具进行追踪，该工具会随机截取他们桌面的截图，以确保他们确实按照要求完成任务。Bob会在这些截图中寻找AI模型的证据。“人们会在其他标签页打开[AI模型如ChatGPT]，或者将其最小化，所以很显然我们可以在任务栏中看到它，”Bob说。“甚至桌面上文件夹的名称也暴露出[使用AI]。” Outlier由Scale AI拥有，目前未对此请求置评。Scale AI在其网站上声称为像Meta 和Cisco这样的科技巨头提供服务，但两者都未回复《新科学家》的置评请求。Bob说他个人为谷歌的项目工作过，谷歌对此请求也未作回应。另一位工人Carol*曾在几个平台工作，她说她使用AI的初衷是检查自己的工作，确保没有违反任务的长篇指导，因为任何违背都可能导致被踢出项目并失去收入。“我害怕没有收入来源，之后，运行所有内容通过LLMs变得更容易，”Carol说。“对于我现在做的很多项目，它是创造场景，所以我会使用一个LLM来帮助我创造场景，然后我会使用另一个LLM来创建与场景相关的文件。我确实感到内疚，但就像我说的，起初这更多是为了确保我没有犯错误。”