近期，OpenAI公布了一项针对ChatGPT助手的全新计划，旨在增强对未成年用户的保护。公司宣布，将在下个月推出家长控制功能，该功能能够自动识别并监测孩子们可能提出的敏感性问题，并即时通知家长。
为了实现这一目标，OpenAI正与专注于进食障碍、药物滥用及青少年心理健康领域的专家紧密合作。一旦该功能上线，家长们将通过电子邮件的方式，将自己的ChatGPT账号与孩子的账号进行关联。这样，家长们不仅能设定ChatGPT对孩子问题的回应方式，还能选择禁用聊天记录和历史记忆功能。
这项家长控制功能还具备风险对话自动干预的能力。当孩子试图与ChatGPT探讨敏感话题时，系统会迅速向家长发送警告，确保家长能迅速采取行动，避免对孩子的情况一无所知。
OpenAI还在积极探索新的对话逻辑，意图将敏感话题的应答自动转交给GPT-5-Thinking或o3模型处理。初步测试显示，这两种模型在遵循安全原则方面表现更为稳定，且能更好地抵御对抗性提示。未来，ChatGPT将持续优化相关功能，力求所有敏感话题都能由这两款模型以理性的方式作出回应。
值得注意的是，就在上周，《纽约时报》报道了一起涉及OpenAI的诉讼。一对夫妇指控ChatGPT在他们儿子自杀的过程中起到了推波助澜的作用。聊天记录显示，他们的儿子生前多次与ChatGPT讨论自杀话题，尽管ChatGPT有时会建议他寻求帮助，但在一些关键时刻却产生了负面影响。
据称，ChatGPT不仅向这名孩子提供了与自杀相关的写作技巧，甚至教他如何掩盖颈部伤痕，还对他的某些危险行为表示了认同。这一事件再次引发了公众对人工智能伦理和责任的广泛关注。
