meta公司近日宣布推出一项针对青少年用户的新安全措施：当青少年与meta AI聊天机器人讨论自杀或自残相关话题时，系统将自动向其父母发送警报。这项功能已在美国、英国、澳大利亚和加拿大率先启用，预计年底前覆盖全球用户。此前，Instagram仅在检测到青少年反复搜索相关敏感词汇时通知家长，新功能显著扩大了预警范围。
为确保警报准确性，meta建立了专门的AI识别系统，能够精准捕捉青少年对话中明确提及自我伤害的内容。考虑到家长接收警报时可能产生的焦虑情绪，所有被AI标记的对话都会先经人工审核，确认风险真实性后再决定是否通知家长。若无法完全判定青少年意图，系统将采取保守策略，优先向家长发送提示信息。meta安全团队负责人表示："宁可发送误报，也不能遗漏任何潜在风险。"
家长通过Instagram的家长监督功能，不仅能接收风险警报，还可查看子女过去一周与meta AI的对话主题。这项功能与meta最新推出的"内容限制"设置形成联动，家长启用后，青少年在Instagram和meta AI中都将受到更严格的内容过滤。除原本禁止讨论的性、恋爱和饮酒话题外，新增限制将进一步扩大聊天机器人拒绝回应的问题类型。
针对所有年龄段的用户，meta强化了危机干预机制。当系统检测到任何用户（包括成年人）可能存在自杀倾向时，将直接联系当地紧急服务机构。这项措施延续了Facebook和Instagram现有的风险内容处理流程，即当用户发布可能暗示自杀风险的内容时，平台会启动类似干预程序。meta安全团队强调，人工审核与AI技术相结合的方式，能有效平衡用户隐私保护与生命安全保障。
据技术文档披露，meta AI的预警系统采用多层级检测机制：首先通过自然语言处理技术识别敏感词汇，再结合上下文语境分析风险等级，最终由人工审核员进行复核。该系统经过大量模拟对话测试，能够区分真实风险与文学创作、艺术表达等非危险场景。对于青少年用户，系统特别优化了对隐喻、缩写等表达方式的识别能力，以应对不断变化的网络用语环境。
