有额外需求的女孩面临社交媒体算法的重大风险
一份新报告警告称,社交媒体算法正在“加剧”有额外需求女孩的脆弱性,使她们遭受“重大伤害”。专家表示,有额外需求(AN)的女孩,包括特殊教育需求(SEN)和心理健康问题的女孩,比同龄女孩更频繁地接触到与自残和饮食失调等主题相关的内容。来自在线安全慈善机构‘互联网事务’的研究(独家披露于《独立报》)显示,84%的女孩在网上遭遇过伤害,而她们的男性同龄人这一比例为75%。报告发现,有额外需求的儿童在线遭受伤害的概率(79%)显著高于没有额外需求的儿童(63%)。‘互联网事务’项目和研究主任Katie Freeman-Tayler表示,有额外需求的女孩在线时间比同龄人更长,常常报告情绪低落和焦虑。她表示,网络平台的设计旨在向用户展示他们与之互动过的更多内容,这可能导致这些女孩被困在有害内容的“循环”中。Freeman-Tayler女士说:“通常情况下,有额外需求的儿童在线时间更长,而更长的在线时间与接触更多有害内容相关。”她补充道:“研究表明,有额外需求的女孩通常在健康水平上起点较低。”这显然会影响她们在网上的浏览内容,因而当这种情况与平台设计及年轻女孩所面临的社会挑战交叉时,可能会加剧她们所见到的有害内容数量。报告中提到的“额外需求”一词是指那些需要特殊教育支持、拥有教育、健康和护理计划(EHCP)——这些是旨在确保对有特殊教育需求的年轻人提供支持的法律文件——或需要专业支持的心理或生理残疾的儿童。活动人士表示,这个术语适用于英国约五分之一的儿童。有额外需求的女孩接触到的自残内容显著多于男孩(22%对比16%),接触到的推广不切实际体型的内容也更多(29%对比21%),而且遭遇仇恨内容(如性别歧视)的比例也更高(30%对比24%)。论文的作者解释称,这些差异在有额外需求的女孩和男孩之间的伤害体验差异中显著高于没有额外需求的女孩和男孩之间的差异。报告称,有额外需求的儿童更倾向于使用人工智能聊天机器人结交伴侣,与没有额外需求的同龄人相比,他们使用人工智能聊天机器人的概率高18%。在这些儿童中,50%表示他们对聊天机器人提供的建议“没有任何顾虑”。Freeman-Tayler女士指出,有额外需求的儿童通常使用聊天机器人获得陪伴,但可能难以区分拍马屁的人工智能回应与真实的人类回应。有额外需求的儿童还更可能报告他们在控制在线时间方面存在困难,且即使不喜欢也会继续观看相同的内容。根据报告,他们因为在线上看到的内容而做危险事情的概率几乎是普通儿童的四倍,而被现实生活中认识的人或陌生人欺负的概率约是普通儿童的两倍。“有额外需求的儿童在线时间更长,因此他们能获得在线生活中最好和最坏的一面,”Freeman-Tayler女士说。“在线上,他们通常会感到自信,并拥有些许独立性。但鉴于有额外需求的儿童在网络空间的关注度更高,我认为他们可能会因此更难以断开联系。”‘互联网事务’呼吁政府和监管机构Ofcom强制进行严格的年龄检查,并表示这对发展年龄可能低于生物年龄的有额外需求儿童“特别重要”。此外,他们还表示,政府应确保持续审查法律,包括《在线安全法》,以确保所有儿童获得充分保护。一位Ofcom发言人表示,监管机构的规则要求采取“一种以安全为优先的方式”,这包括“应对有害算法、进行严格的年龄验证、以及防止儿童接触最危险的内容”。他们补充道,不遵守其职责的科技公司可以“期待执法行动”。政府发言人表示,近期针对16岁以下儿童社交媒体限制的咨询已收到了超过100,000份有关使用人工智能聊天机器人的问题的回复。发言人补充说:“我们决心迅速采取行动,因为我们了解儿童在网上面临的伤害,但我们将以有效、可执行的方式来做这一切,并确保适用于所有儿童。我们将尽快提出政府的回应,
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡