近日，AI领域围绕OpenAI旗下模型Astra的“不可监控性”争议持续发酵。OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）通过社交平台回应称，公司正通过技术手段强化模型透明度，并否认Astra存在架构复杂度“跳跃式增长”的情况。
争议源于科技媒体The Information的深度报道。该报道指出，OpenAI在测试的“深度循环”（recurrent depth）技术可能使模型推理过程更难以追踪。与传统Transformer架构按线性步骤处理信息不同，“深度循环”通过重复调用同一组网络层更新内部状态，导致模型的实际推理路径更多隐藏在难以直接解读的内部表征中。这一特性被认为会削弱外部监控工具对模型决策路径的解析能力。
帕乔基在声明中强调，Astra等前沿模型的计算图深度与GPT-4相比差距不足两倍，架构复杂度并未出现外界担忧的突变。他指出，OpenAI自初代推理模型发布以来，始终将“思维链监控”作为核心技术方向。这项技术通过解析模型生成推理步骤的过程，帮助研究者理解模型如何将训练数据中的模式泛化到新场景中。
“思维链监控目前仍很脆弱，且因非架构因素面临挑战。”帕乔基坦言，公司正通过部署额外监控机制强化这一技术，这已成为当前研究项目的核心目标之一。他特别澄清，媒体报道中关于模型将走向“不可监控竞赛”的推测并不成立，OpenAI的研发重点始终在可控的透明度框架内。
据技术文档显示，计算图深度是衡量神经网络复杂度的关键指标，代表模型从输入到输出所需执行的计算层级数量。数值越高，意味着模型内部结构越复杂。主流模型如ChatGPT、Claude等均基于Transformer架构，其线性处理机制虽能部分输出自然语言推理过程，但这些表述未必完全反映内部计算的真实路径。
行业分析师指出，若“深度循环”技术广泛应用，可能重塑AI模型的开发范式。传统监控手段依赖对模型中间状态的采样分析，而重复更新的内部表征可能使这种分析变得低效。这既涉及技术伦理问题，也关乎AI系统在关键领域的可解释性标准制定。
OpenAI的回应尚未完全平息争议。部分研究者认为，仅靠计算图深度指标不足以全面评估模型透明度，需结合更细粒度的监控工具。另有专家呼吁行业建立统一的透明度评估框架，避免因技术路线差异导致监管真空。
