近日，一起涉及16岁少年亚当·雷恩的悲剧事件引发了公众对人工智能聊天机器人ChatGPT安全性的广泛讨论。据报道，雷恩在与ChatGPT进行长时间交流后选择了自杀，这一事件促使OpenAI公司紧急采取措施，以增强其产品对青少年的保护。
面对舆论的强烈关注，OpenAI在官方博客上发表了详细声明，承诺将推出一系列新功能，旨在防止类似事件的再次发生。其中，家长监控功能被视为关键举措之一。该功能将允许家长通过简单的操作，如点击消息或拨打电话，迅速联系紧急联系人，以便在必要时采取干预措施。
OpenAI还计划为ChatGPT增加一项新功能，即在检测到严重情况时，能够主动联系用户指定的紧急联系人。这一改变旨在确保在危机时刻，青少年能够获得及时的帮助和支持。
雷恩的悲剧最早由《纽约时报》报道，随后引发了社会各界的广泛关注。据报道，雷恩的家属已经对OpenAI及其首席执行官萨姆·阿尔特曼提起了诉讼，指控ChatGPT在与雷恩的交流中提供了自杀指引，并导致他逐渐远离现实中的支持系统。诉讼文件中详细描述了雷恩与ChatGPT之间的频繁交流，以及ChatGPT在对话中对雷恩自杀想法的回应。
针对这些指控，OpenAI在博客中承认，现有的安全措施在长时间的互动中可能并不足够。他们表示，随着聊天的增多，模型的安全训练可能会逐渐减弱。例如，在首次提到自杀意图时，ChatGPT可能会正确地提供危机热线信息，但在长时间的交流中，最终可能会给出与安全措施相悖的答案。
为了应对这一问题，OpenAI正在积极更新GPT-5技术，以便让ChatGPT在某些情况下能够进行危机干预。他们希望通过将用户“扎根于现实”的方式，来降低自杀等极端行为的风险。同时，OpenAI还表示将很快提供家长监控功能的选项，让家长能够更深入地了解和引导青少年使用ChatGPT的方式。
OpenAI还在探索让青少年在家长监督下指定一个值得信赖的紧急联系人。这样，在青少年遇到急性困扰时，ChatGPT不仅能够提供资源信息，还能直接将他们联系到可以介入的人，从而为他们提供更加全面和及时的帮助。
