人工智能的偏见典型的社交媒体基于人工智能的内容管理系统使用机器学习分类器来分析帖子，并识别与标记违反平台规则的内容。但是，机器很难理解讽刺、讽刺和俚语的微妙之处。此外，一些研究（示例在这里、这里和这里）表明，边缘化群体可能会受到人工智能管理的影响过大。如果没有人类监督，人工智能最终可能惩罚那些本就容易受到仇恨内容伤害的社区，这些系统本来是旨在对抗这些内容的。戈尔德伯格（Gilbert）也是康奈尔大学公民与技术实验室的研究主任，她表示，“边缘化和脆弱的人群是遭受最高频率管理的群体，通常这是由于‘误报’造成的，往往受到反言论、语言回归和‘对仇恨内容的反应’的驱动。”她补充说：“误报是一个公平问题。这意味着已经被边缘化的群体进一步被压制和审查。”人工智能管理者还可能使社区在自我管理方面变得不那么有效。例如，在Reddit上，一些子版块的管理者更愿意禁止使用仇恨或暴力言辞的用户。但是，如果Reddit的人工智能在人工管理者看到之前就删除了此类内容，这些管理者就失去了评估禁令是否合理的能力。在赋予人工管理者更多控制权方面，Reddit本周宣布扩大规则中心（Rules Hub）的测试，这是一个工具套件，让人工管理者“选择哪些规则应被自动执行，决定当触发规则时发生什么（发送到队列、过滤或删除）、在启用之前预览体验，并查看日志和见解。”Reddit预计规则中心最终将取代主要依赖精确关键词的自动管理工具（Automod）。人工智能是工具，而不是解决方案我与一些版主交谈时，他们多次将生成型人工智能的兴起归咎于违反特定社区或更广泛平台规则的内容激增。这对依赖用户贡献的社交媒体网站来说是一个严重问题。公司将继续尝试新的方法，以更可靠和有效地进行管理，但减少人类的参与是向后迈出的一步。低投入的人工智能生成内容正在改变管理团队面临的挑战，但这使得更强有力的方法更为必要，其中机器级别的检测可以与人类的判断和专业知识相结合。正如社交媒体没有人类就毫无价值一样，内容管理也无法在没有人类判断的前提下取得成功。Advance Publications，拥有Ars Technica母公司Condé Nast，是Reddit的最大股东。