该公司还正在建立联系紧急服务的能力，以防用户可能面临迫在眉睫的自残风险。Meta正在扩大其对青少年用户的保护措施，努力向父母以及可能的监管机构表明，其平台是他们可以安全使用的。几个月前，Meta开始向监护人展示他们青少年AI对话的主题，现在推出了一项新的安全保护功能，如果他们的孩子的聊天表明他们考虑自残或自杀，也会让家长知晓。当未成年用户谈论自杀或自残时，Meta AI已会将他们引导至危机热线，并鼓励他们寻求可以提供帮助的成年人的支持。从今天开始，公司还将主动通知青少年的监护父母或监护人他们面临的风险。它还将分享有关家长可以为孩子提供的资源和建议。Meta表示，它建立了一个专门的AI系统来识别这些对话，但在发出警报之前，将手动审核所有被AI标记的聊天，以避免在没有真正原因的情况下引发恐慌。然而，即便青少年用户的意图对人工审查员来说似乎模糊不清，仍将侧重于谨慎行事并发送通知。此功能目前在美国、英国、澳大利亚和加拿大使用Instagram父母监督的家长中启用。到年底，该功能将面向全球所有使用父母监督的用户。该公司还在努力建立联系紧急服务的能力，以防用户与Meta AI的对话表明他们可能面临迫在眉睫的自杀风险，无论他们是未成年人还是成年人。在5月，OpenAI推出了一项功能，也旨在解决自残问题。名为“ChatGPT的可信联系人”，允许用户提名一位朋友，如果他们面临自残风险，公司可以联系该朋友。最后，Meta的有限内容设置现在也适用于Meta AI互动。如果父母在Instagram上启用了有限内容，过滤掉敏感话题如成熟视觉和自残的内容，孩子的AI互动也将受到更严格的限制。如果您或您认识的人正在经历自杀念头，请不要犹豫，联系国家自杀预防生命线：1-800-273-8255。该热线全天候开放，如果没有电话，也可以使用在线聊天。