ITBear旗下自媒体矩阵:

OpenAI新架构“循环Transformer”引关注 Astra实力飙升思考却“隐身”

   时间:2026-09-03 13:51:41 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

OpenAI即将推出的Astra模型引发了科技界的广泛关注,其采用的“循环深度”推理架构被视为颠覆性创新。这项技术通过让Transformer层循环运行,实现了计算深度的指数级提升,同时大幅减少了输出token的数量。据内部人士透露,Astra在灰度测试中展现出的性能已远超现有模型,但这种“黑箱式”的思考过程也引发了安全担忧。

传统Transformer架构如同单向楼梯,数据从底层逐层传递至顶层完成计算。而“循环Transformer”则将同一组神经网络层重复使用,使信息在循环过程中不断深化处理。谷歌2025年发表的研究证实,一个包含k层、循环L次的模型,在推理任务中可达到k×L层普通模型的性能水平。今年2月,研究人员用35亿参数的小模型通过循环架构实现了500亿参数模型的等效效果,验证了这种“时间换空间”策略的有效性。

OpenAI首席科学家Jakub Pachocki回应外界猜测时表示,Astra等前沿模型的计算图深度仅为GPT-4的两倍,但实际性能提升远超预期。这种效率跃升源于循环架构带来的“推理时扩展”能力——模型在输出token前已完成多轮内部迭代,表面上的短暂停顿实则包含大量隐藏计算。这种设计使Astra在数学证明和代码生成等需要多次迭代的领域表现出色,部分测试中已达到人类专家水平。

技术突破背后隐藏着监管难题。传统模型通过思维链(CoT)将计算过程转化为人类可读的文字,而循环架构使大部分推理在向量空间完成。meta的研究指出,数字向量推理比语言转换更高效准确,但这也意味着AI的思考过程完全脱离人类监控。有安全专家警告,这种“隐形思考”可能被用于恶意代码生成或敏感信息挖掘,且现有审计工具无法追踪其决策路径。

尽管存在争议,Astra展现的持续性智能体能力仍令人惊叹。该模型可连续运行数周而不需中断,在前端开发等复杂任务中展现出统治级表现。社交媒体上流传的演示视频显示,Astra能自主完成从需求分析到代码部署的全流程工作。OpenAI研究员在非正式场合透露,新架构使模型参数效率提升近20倍,这意味着同等算力下可运行更复杂的智能系统。

随着GPT-6发布进入倒计时,业界对循环架构的讨论持续升温。支持者认为这是通往AGI的关键突破,反对者则担忧技术失控风险。值得注意的是,Anthropic近期公布的营收数据表明,AI市场的竞争已进入白热化阶段。OpenAI选择此时推出革命性架构,既是对竞争对手的反击,也是对自身技术领导地位的重新确认。这场架构革命将如何重塑AI产业格局,答案即将揭晓。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version