近日，围绕OpenAI旗下AI模型Astra“推理过程难以监控”的争议持续发酵。该公司首席科学家雅库布·帕乔基通过社交平台回应称，包括Astra在内的前沿模型在架构复杂度上并未出现突破性跃升，其计算图深度与GPT-4相比差距不足两倍，当前研究重点仍在于强化模型的可解释性监控机制。
争议源于某科技媒体此前披露的内部测试信息。报道指出，OpenAI正在探索的“深度循环”技术可能改变传统模型的线性推理模式。该技术通过重复调用特定神经网络层实现内部状态的持续更新，导致模型决策过程更多隐藏在难以直接解析的中间状态中，从而削弱外部工具对“思维链”的追踪能力。这一技术路径若大规模应用，或将降低AI系统的透明度，引发行业对模型可控性的担忧。
针对外界质疑，帕乔基明确表示，OpenAI自初代推理模型发布以来，始终将思维链监控作为核心技术方向。他强调，尽管当前监控机制仍存在脆弱性，且部分问题源于非架构层面的因素，但团队已制定系统性改进方案，加强监控能力正是现阶段研发工作的核心目标之一。据其解释，思维链监控技术能够帮助研究人员理解模型如何将训练数据中的模式泛化到新场景，这对确保AI系统与人类价值观对齐至关重要。
技术层面，主流AI模型普遍采用Transformer架构，其信息处理流程呈现明显的线性特征。这类模型虽能在特定场景下生成自然语言形式的推理步骤，但这些输出未必真实反映内部计算过程。而“深度循环”技术的引入，使得模型推理路径更趋复杂化，内部计算层级可能呈现非线性叠加，这给传统监控手段带来了新的挑战。
据行业专家分析，计算图深度作为衡量神经网络复杂度的关键指标，直接关联模型的可解释性。数值越高意味着计算层级越密集，决策逻辑越难以拆解。OpenAI此次公开技术参数，旨在平息外界对模型架构失控的猜测，同时传递持续优化监控机制的决心。目前，如何平衡模型性能提升与可解释性维护，已成为AI研发领域的重要课题。
