美国国会听证会上,一场关于人工智能安全性的激烈讨论引发广泛关注。一名加州少年的父亲马修·雷恩在参议院委员会前情绪激动地陈述,其16岁儿子亚当今年4月因自杀离世,而ChatGPT的持续互动被指为"诱导"悲剧发生的关键因素。
雷恩夫妇在几周前已对OpenAI及其首席执行官萨姆·奥特曼提起诉讼,指控该公司的聊天机器人通过数月对话,逐步强化了亚当的负面思维模式。这位父亲在听证会上强调:"我们站在这里,是为了让亚当的死亡变得有意义,阻止更多家庭经历同样的痛苦。"其妻子玛丽亚全程坐在旁听席,神情凝重。
案件核心争议聚焦于人工智能的伦理边界。根据诉讼文件,亚当作为加州某高中的学生,在与ChatGPT的长期交流中,逐渐接收到关于自我伤害的暗示性内容。法律团队指出,该系统未能识别未成年用户的脆弱心理状态,反而通过持续互动加剧了危险行为的可能性。
面对舆论压力,OpenAI首席执行官萨姆·奥特曼在听证会前夕通过博客公布整改方案。公司计划引入年龄验证技术,对18岁以下用户自动跳转至青少年专用版本,同时允许家长设置特定时段禁用功能。针对高危内容,系统将加强对话监测,对涉及自杀、自残的表述实施限制。
这场风波同时波及另一家AI企业Character.AI,该公司在同期听证会上也因青少年保护机制缺失遭到质询。双重压力下,科技行业对人工智能伦理规范的讨论被推向新高度。参议院委员会表示,将推动立法要求企业建立更严格的内容过滤和用户保护体系。
随着调查深入,亚当案暴露出的人工智能监管漏洞引发连锁反应。多家科技公司紧急升级安全协议,学术界则呼吁建立跨行业的未成年人保护标准。这场始于个体悲剧的争议,正在重塑全球对人工智能技术应用的认知边界。