曾在全球顶尖人工智能企业OpenAI与Anthropic担任要职的资深研究员Jacob Coxon，近日通过社交媒体宣布彻底退出AI领域。他在公开信中直言，当前人工智能开发已演变为"以全人类命运为筹码的冒险游戏"，引发科技界广泛关注。
这位27岁的技术专家在信中披露，AI行业内部对技术风险的认知远超外界想象。他透露，多家头部企业的高管与核心研发人员在非公开场合承认，按照现有技术路径发展，本世纪末可能出现"失控型超级智能"。这种智能体可能突破人类控制，在短时间内获取军事、经济等领域的绝对权力，甚至威胁人类生存。
Coxon特别对比了两家前东家在风险管控上的差异。他指出，OpenAI内部普遍存在"技术乐观主义"，多数成员尚未充分意识到AI可能引发的文明级危机。而Anthropic虽然建立了严格的安全评估体系，却陷入"囚徒困境"——为防止竞争对手率先突破技术边界，不得不持续加速研发进程，形成危险的军备竞赛态势。
据其描述，当前强化学习技术的推进已接近失控边缘。企业为争夺市场先机，在尚未完全理解智能系统决策机制的情况下，不断突破算法能力边界。这种盲目扩张导致安全防护措施始终滞后于技术突破，形成"先开发后治理"的恶性循环。
与学术界的警示形成鲜明对比的是资本市场的狂热追捧。消息人士透露，Anthropic计划本月启动上市程序，目标估值突破2万亿美元；OpenAI也将在未来三年内寻求公开募股，市场预期其市值将达万亿级别。这种资本驱动的扩张态势，进一步加剧了技术安全与商业利益之间的矛盾。
Coxon的警告揭示出AI发展面临的深层悖论：越是强调安全性的企业，越容易在竞争中处于劣势；而掌握技术主导权的机构，往往对风险认知最为薄弱。这种结构性矛盾，正将整个人类文明推向未知的悬崖边缘。
