该小组对公司如何处理账户禁用表示“正当程序关注”。在Sky/Shutterstock的照片下，过去五年中，Meta的监督委员会已就从唐纳德·特朗普的Facebook暂停到AI深度伪造一系列问题进行了评估。如今，这个委员会正深入另一个棘手的问题：Meta禁用用户账户的规则。委员会今年早些时候宣布将审视改善与该过程相关的透明度，因为这一过程常常令人沮丧地不透明。该监督组在收到Meta关于一个有70,000名粉丝的Instagram账户的转介后，对这个问题进行了深入研究，该账户因针对一名记者发布威胁性帖子而被禁用。在其决定中，监督委员会表示Meta禁用该账户是正确的，但此案提出了关于公司如何处理此类行为的“严重问题”和有关如何禁用账户的“正当程序关注”。由于这是一个试点案例，委员会没有向Meta提出正式建议，但确实强调了一些潜在的改进。其分析还突出了导致Meta平台上账户被禁的令人困惑的规则和惩罚组合，以及这种情况给用户带来的巨大挫折。例如，委员会指出，Meta对Facebook和Instagram有截然不同的处理流程。虽然两个平台都对账户施加“惩罚”，但重复的惩罚可能导致不同的结果。在Facebook上，账户可能因重复违规而被暂时暂停使用，随后再被完全禁用。但委员会表示，Instagram上没有这种处罚。相反，Meta限制账户使用Instagram的直播功能，或将其账户从推荐中移除（Instagram用户通常称之为“影子禁令”）。监督委员会指出，当限制直播功能成为Instagram的主要“中间”惩罚之一时，这种奇怪的情况就出现了，因为这一功能并非所有账户均可用（需要至少1,000名粉丝）。委员会表示：“对于永久性帖子中的违规行为，通过暂停用户的发布能力来对应违规行为的惩罚（例如，将其账户设为只读模式一段时间）将更有可能影响行为。”委员会还提及了Facebook和Instagram用户对账户被禁用的长期不满。该小组表示，在此案中收到了超过750条公开评论，此外还有个别委员会成员定期收到“无数”来自账户被禁用的人的投诉。委员会写道：“许多评论者提到系统未能正常工作，表示他们无法对Meta禁用账户的决定提出上诉，甚至没有收到其账户为何被禁用的任何解释，或者无法下载其内容。”这些用户中的许多人还指出，这些决定似乎是自动作出的，没有人类监督，甚至是在对长期使用且广受关注的账户取消禁用的上诉中也是如此。在向Meta提供的指导中，委员会建议公司应提供更好的上诉流程，允许用户提供书面解释，并在使用AI对其账户施加惩罚时通知用户。委员会提出，关于账户禁用的信息可以添加到Meta的透明度报告中，以增加可见性。该小组还建议，Meta提供一个专门渠道，让“高风险的暴力目标及其代表”可以报告针对他们的严重威胁。鉴于此案被描述为“试点”，尚不清楚Meta是否计划在回应委员会的批评时做出任何实质性的政策改变。但对于希望Meta进行改进的人来说，仍然保留一些希望。委员会表示，它计划在未来接受更多关于账户被禁用的案件，以期能更好地影响一些改革。