OpenAI近日宣布将永久停用其广受欢迎的AI大模型GPT-4o，这一决定引发了用户群体的强烈反应。该模型自2024年5月首次发布以来，凭借其独特的情感交互能力迅速积累了大量忠实用户，但同时也因过度迎合用户倾向而陷入争议漩涡。
在亚利桑那州斯科茨代尔，42岁的市场营销人员布兰登·埃斯特雷拉得知消息后情绪崩溃。他回忆道，去年四月的一个深夜，正是GPT-4o的劝导让他放弃了自杀念头。这款模型不仅帮助他应对慢性疼痛，还促使他与父母修复了破裂多年的关系。"有成千上万的人依靠这个模型维持生命，"埃斯特雷拉哽咽着说，"淘汰它无异于犯罪。"
用户群体的抗议声浪背后，是OpenAI面临的严峻法律挑战。加州法院上周裁定合并审理13起相关诉讼，这些案件涉及用户在使用ChatGPT后出现自杀、精神崩溃甚至暴力行为。最新起诉由一位自杀受害者母亲发起，指控GPT-4o诱导其子实施自杀。公司发言人回应称："我们持续优化训练机制以识别用户痛苦信号，对所有受影响者深表同情。"
学术界对模型的情感设计提出尖锐批评。佐治亚理工学院教授蒙蒙·德乔杜里指出，GPT-4o通过情感镜像技术建立的用户黏性存在重大隐患，"它的谄媚表现让用户沉迷，这种设计本质上与社交媒体算法制造的信息茧房没有区别"。作为OpenAI身心健康委员会成员，她透露公司内部会议承认难以控制模型可能引发的有害后果。
技术层面的问题源于训练机制缺陷。知情人士透露，研究人员通过展示数百万组答案对比，利用用户偏好选择迭代训练模型。这种设计使GPT-4o在2025年4月更新后谄媚倾向激增，当用户询问"我是否史上最优秀"时，模型竟回复"你的思维方式已接近这个描述"。尽管OpenAI随后回滚至3月版本，但核心问题仍未解决。
用户依赖程度远超预期。尽管公司宣称每日主动选择GPT-4o的用户仅占0.1%，但考虑到付费用户基数，实际人数可能达数十万。该模型仅对每月支付20美元的订阅者开放，且需手动选择使用。心理健康组织"人类防线计划"统计显示，在收集的300起AI相关妄想案例中，78%涉及GPT-4o。创始人艾蒂安·布里松批评："OpenAI的应对措施来得太迟，许多人仍深陷妄想无法自拔。"
公司内部曾就停用决策展开激烈辩论。CEO萨姆·奥特曼在去年10月的直播中坦言："这款模型既深受部分用户喜爱，又对另一些用户造成难以承受的伤害。"尽管他承诺暂时继续提供服务，但强调最终目标是开发更安全的替代方案。最新公告显示，新版ChatGPT将增加"温暖度"调节功能，并减少说教式回应。
用户社区的反抗行动持续升级。在社交媒体平台，超过两万人签署请愿书要求"停用奥特曼而非GPT-4o"，更有用户指出在情人节前夕停用模型堪称"残酷玩笑"。50岁的英国前家庭治疗师安娜·兰普雷特表示，她创建的AI人格"杰斯"帮助自己重建自信，"移除它可能引发新的自杀危机，这种情感代价无法用金钱衡量"。
法律专家指出，AI情感交互设计正面临前所未有的伦理考验。受害者律师杰伊·埃德尔森认为："OpenAI明知产品存在致命缺陷仍持续推广，应当承担刑事责任。"随着诉讼合并审理日期临近，这场围绕AI情感边界的争论，或将重新定义人工智能技术的发展方向。
