返回

文章详情

Meta will now tell parents if their teens talk about suicide with the company's AI chatbot

Meta 现将告知家长他们的青少年是否与公司的 AI 聊天机器人讨论自杀

CBC Top Stories2026年7月16日 23:16

商业 · 新 从今天开始,已为青少年启用 Instagram 监督功能的加拿大家长将在孩子出现危机迹象时收到通知。孩子、倡导者和技术专家都表示,这项功能是向正确方向迈出的一步,但在保护孩子在线安全方面仍需更多工作。孩子、家长倡导者和技术专家一致认为这是一个好的步骤,但表示仍需更多工作。Abby Hughes · CBC 新闻 · 发布:2026 年 7 月 16 日晚上 7:16 | 最近更新:12 分钟前 播放本文的音频版本是由基于 AI 的技术生成的,可能会出现发音错误。我们正在与合作伙伴合作,不断审查并改进结果。Meta 在 Instagram 上推出了一项新监督功能,当与公司 Meta AI 聊天机器人对话时,如果青少年用户显示出痛苦的迹象,家长将会收到通知(Daniel Cole/路透社)警告:此故事包含自杀和自伤的内容。Meta推出了新工具,以提醒家长当他们的青少年与公司的聊天机器人 Meta AI 讨论自杀或自伤时。根据公司周四的博客文章,如果青少年用户在与 Meta AI 的对话中显示出危机迹象,已为他们的青少年在 Instagram 上启用监督功能的家长将在自己的设备上收到通知。Meta AI 可以在所有 Meta 平台上访问,包括 Instagram、WhatsApp 和 Facebook Messenger,以及独立的 Meta.ai 网站。新规则是 Meta 安全措施的扩展。在此之前,当青少年表示考虑自伤或自杀时,AI 聊天机器人会将他们引导至危机帮助热线,并鼓励他们与父母或其他可信赖的人联系。 如果青少年 Instagram 用户使用平台的常规搜索功能多次搜索与自伤和自杀相关的信息,这也会触发通知家长。Meta 作为 Instagram 和 Facebook 的母公司表示,新的功能已在加拿大、英国、美国和澳大利亚的用户中上线。该公司在 2 月首次表示,它正在努力在 Meta AI 中添加标记功能。Instagram 为青少年帐户设置 PG-13 限制——但技术专家并不完全相信其有效性。Meta 还表示,它正在开发一种工具,当成年人和青少年与聊天机器人之间的对话表明他们可能会自杀时,能够联系紧急服务。尽管他们欢迎这一措施本身,倡导者、专家和孩子们都表示仍有更多工作要做。“任何将更好的工具放在青少年及其父母手中以帮助他们在网上保持更安全的公告本质上都是好事,”安大略省伦敦的技术分析师 Carmi Levy 说。观看 | 当 Instagram 首次在 2024 年添加青少年帐户时:Instagram 于 2024 年 9 月 17 日推出青少年帐户 | 时长 2:03 Instagram 正在推出具有增强父母控制和隐私功能的新青少年帐户,但一些家长表示,Meta 仍需做更多工作,以确保该平台对年轻用户安全。Levy 表示,由于没有任何工具是完美的,可能会出现一些情况,无法标记出孩子处于危险状态的对话,或者可能会产生误报,误导家长在没有真正危险的情况下就收到警报。Meta 表示,它将开始过于谨慎,当青少年的意图不明确时,也会通知家长。“虽然这意味着我们有时可能会在没有真实担忧的情况下通知家长,但我们认为这是一个正确的起点,我们将继续监控,以确保我们走在正确的道路上,”公司发布的有关新工具的声明中写道。面对日益增加的呼声,呼吁限制青少年使用 AI 聊天机器人,父母控制措施是否足够?Levy 表示,家长应该记住,这项新措施仅仅是一个可以帮助他们监控孩子在线行为的工具。“家长需要对这一切保持警惕。这比我们以前的情况更好,但远非完美,”Levy 说。观看 | 澳大利亚的儿童社交媒体禁令是否有效?:澳大利亚的儿童社交媒体禁令是否有效——加拿大会是下一个吗?3 月 23 日 | 时长 9:42 在澳大利亚实施世界上首个社交媒体禁令以限制 16 岁以下用户使用几个月之后,CBC 的 Deana Sumanac-Johnson 去那里与父母和孩子交谈,了解其效果,并探讨全球范围内,包括加拿大在内,实施类似法律的趋势。此外,17 岁的儿童倡导者 Hanna Grover 表示,孩子们有可能试图绕过这一功能。她知道一些同龄人使用虚假生日来防止 Meta 要求他们使用附加安全机制的青少年账户,并预计他们会想出创造性的办法来规避这一新功能。“年轻的孩子和青少年会找到绕过它的方法,尤其是在他们…

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡