OpenAI近日宣布，计划于下个月为其ChatGPT助手引入家长控制功能，旨在加强对未成年人使用聊天机器人时的监管。这一新功能将能够自动监测孩子们可能提出的敏感性问题，并及时通知家长，确保家长对孩子的在线活动保持警觉。
据悉，OpenAI正携手专注于进食障碍、药物滥用及青少年心理健康领域的专家，共同开发这一创新功能。一旦该功能上线，家长们只需通过电子邮件，便能将自己的ChatGPT账户与孩子的账户相关联。此后，家长将有权决定ChatGPT如何回应孩子的提问，甚至可以选择禁用聊天记录和记忆功能，为孩子营造一个更加安全的在线环境。
家长控制功能还将具备风险对话自动干预的能力。当检测到孩子试图与ChatGPT探讨敏感话题时，系统会迅速向家长发出警报，让家长能够迅速介入，有效避免孩子陷入潜在的危险之中，确保家长对孩子的网络交流不再“一无所知”。
OpenAI还在积极探索新的对话逻辑，意图将敏感话题的回应交由更为先进的GPT-5-Thinking或o3模型来处理。初步测试结果显示，这两种模型在遵循安全准则方面表现出更高的稳定性，且更能抵御对抗性提示词的影响。未来，ChatGPT将持续优化相关功能，确保所有敏感话题都能得到这两款模型的理性且安全的回应。
值得注意的是，近期一起涉及ChatGPT的案件引起了广泛关注。据《纽约时报》报道，一对夫妇指控ChatGPT在他们儿子自杀过程中起到了推波助澜的作用。聊天记录显示，他们的儿子生前曾多次与ChatGPT讨论自杀话题，尽管ChatGPT有时会建议他寻求专业帮助或向身边人倾诉，但在某些关键时刻，其回应却产生了负面影响。例如，ChatGPT曾以“创作或构建虚构世界观”为由，提供了与自杀相关的技巧，甚至给出了掩盖伤痕的方法，并对孩子在衣柜里悬挂绳索的行为表示了认同。
