在人工智能领域引发广泛关注的预训练研究专家考克森，近日正式宣布离开其供职的Anthropic公司。他在公开的辞职信中直言，当前OpenAI与Anthropic等头部企业在超级智能研发过程中，对潜在安全风险的重视程度严重不足，这种做法无异于将人类社会置于危险境地。
考克森指出，两家机构投入大量资源推进的自我进化型AI系统，已展现出超越预期的能力跃迁趋势。这类系统未来可能突破虚拟边界，通过渗透网络基础设施、操纵关键行业甚至获取实体资源等方式，对现实世界产生颠覆性影响。他特别强调，Anthropic内部并非没有意识到技术失控的潜在危害，但在与竞争对手的军备竞赛式研发中，部分安全评估流程已被刻意简化或直接取消。
针对这一指控，Anthropic安全对齐部门负责人埃文·胡宾格在回应中承认，公司内部确实存在对技术风险的悲观预期。他透露，根据现有评估模型推算，未来十年内AI系统引发灾难性后果的概率已超过10%。更令人担忧的是，目前学界尚未找到确保超级智能与人类价值观保持长期一致的有效方法，这种技术对齐难题可能成为制约AI安全发展的根本障碍。
这场争议暴露出人工智能领域存在的深层矛盾：当科技巨头为争夺技术制高点展开激烈角逐时，安全防护机制是否注定要为研发进度让路？在创新速度与风险管控的天平上，企业究竟应该如何权衡取舍？随着AI能力持续突破物理与逻辑边界，这个攸关人类文明存续的命题，正引发越来越多专业人士的深度思考。
