在人工智能领域，关于通用人工智能（AGI）的探索从未停止。曾经，OpenAI内部坚定的“强化学习拥护者”Jerry Tworek坚信，大规模强化学习会成为大模型通往AGI的最后一块拼图。在GPT - 3、GPT - 4之后，他一度认为只要将强化学习路线推到极致，AGI或许会在2025年到来。然而，随着实践的深入，他的观点发生了转变。
随着模型不断迭代，评测分数持续上升，复杂推理能力也显著提升，但Jerry发现实验室里的进展并未完全转化为现实世界中的可靠能力。训练任务难度增加，模型更擅长应对考试，却难以适应大量模糊、变化且未预先定义的问题。这让他开始反思，问题或许不只是强化学习规模不够，而是当前模型缺乏在进入真实世界后继续学习的能力。
基于这样的判断，Jerry与谷歌Gemini前预训练负责人之一Rohan Anil共同创办了Core Automation。Jerry来自大规模强化学习领域，Rohan长期研究优化算法、模型架构和底层计算系统，两人的经历覆盖了大模型的两条核心路线。但他们决定不再沿着这两条路线继续投入，而是开始思考一个更根本的问题：如果模型只能在实验室学习，依赖人类不断收集数据、重新训练和发布新版本，它真的能走向AGI吗？
强化学习虽提升了模型的复杂推理和任务执行能力，使其能掌握更多预先定义好的工作流程，但真实世界与实验室训练环境存在巨大差异。研究人员根据希望模型掌握的能力设计训练数据和任务，模型在实验室根据预先收集的数据、设定好的环境和反馈完成训练，之后才被部署到更开放、混乱的真实世界。强化学习只能让模型更好地完成研究者定义的任务，面对训练分布之外的问题时，模型难以自行适应，仍需人类收集案例、补充数据，让模型回实验室更新。所以，真正学习的主体还是实验室，而非模型自身。这表明下一代模型不仅要在训练阶段变强，还必须在进入真实世界后持续学习。
在Jerry看来，当前模型最根本的问题是学习几乎都发生在部署之前。预训练吸收海量数据，强化学习塑造模型行为方式，完成后模型参数基本固定。此后，即便外部环境变化，出现新工具、代码库或任务，模型也不会像人一样在使用过程中自然更新自己，难以将新经验稳定转化为长期能力。这意味着模型价值依赖训练数据是否提前覆盖现实需求，遇到新问题，常见做法还是收集失败案例、补充数据，由实验室重新训练。
现有系统并非完全没有部署后的适应能力。上下文学习是其中一种方式，用户将新信息写入提示词或上下文，模型能在当前对话中利用这些信息，无需修改参数，也不易造成灾难性遗忘，相对灵活。但这种“学习”容量有限，上下文窗口再长，能保存的信息也有限，内容被压缩、删除或开启新会话后，模型获得的经验就难以保留。以编程工具为例，使用一段时间后上下文需整理或压缩，若模型只能记住最近几十分钟的事，不算真正意义上的长期学习。另一种方式是持续微调，根据新数据不断更新模型参数，更接近真正的学习，但会带来灾难性遗忘问题，且微调往往需要大量数据和计算，无法像人类一样根据少量经验迅速调整。
Jerry希望寻找第三种可能，即做元学习，把“如何学习”写进模型架构，让系统能在部署过程中根据用户、数据和真实任务持续更新，同时避免轻易遗忘原有能力。这也是他将问题指向架构而非训练规模的原因，一个需反复回实验室重新训练的模型，即便成为强大工具，也缺少智能系统在环境中积累经验并发生长期改变的重要特征。
对于强化学习能否承担模型在真实世界持续学习的任务，Jerry认为强化学习很重要，但只是“从经验中学习”的一种方式。当前强化学习依赖大量并行试验，与人类学习经验的方式不同，且人类面对不同任务采用不同学习方式。比如学习踢球类似强化学习，而学习数学则更接近理解、压缩和重组知识。现实中的经验并非都能整理成明确的动作、奖励和回合，有些反馈延迟严重，有些任务没有唯一正确答案，还有些学习来自观察、解释和内部思考。所以，单纯扩大强化学习未必能解决持续学习问题，下一步突破可能来自更广义的学习算法，它不要求所有经验都转化为标准奖励，而是能根据经验本身结构选择合适方式吸收。
在Core Automation看来，下一代架构不必彻底抛弃Transformer，但必须解决其未解决的问题。其中最重要的是将学习从一次性训练过程变为系统自身长期运行的一部分，模型要能在部署后吸收新信息，根据用户和环境调整能力，将短期经验转化为长期变化，不能依赖有限上下文或每次学习新任务都回实验室重新微调。这种学习还需足够稳定，系统既要掌握新知识，又不能轻易破坏原有能力，既要从长期互动中积累经验，也要能从少量数据中快速更新。
Rohan从计算效率角度提出另一项要求，新架构必须将预训练和强化学习作为一个整体设计。目前训练流程通常是先用预训练构建基础模型，再通过强化学习增加推理与任务执行能力，但两者优化目标和计算方式不同，简单拼接不一定有效。所以，下一代架构要从最终任务出发，考虑模型如何建立知识基础、分配推理计算以及通过经验继续学习，训练算法、模型架构和底层硬件不能彼此割裂。Rohan强调，理论上优越却无法在现实硬件上高效运行的架构没有实际价值，从研究构想到生产部署需形成完整端到端体系。Core Automation为此将架构、优化和系统工程人员放在同一团队，避免不同环节被组织边界切割。
除了无法持续学习，Rohan认为Transformer还存在计算深度不足的问题。这里的“深度”不是指模型参数多少，而是输入信息在产生答案前能经历的连续计算步数。当前Transformer通常只有数十层到一百层左右，信息通过固定数量网络层后模型就需输出结果，这限制了模型在单次前向计算中完成复杂推演的能力。近年来，思维链和推理时扩展部分绕开了这一限制，模型先生成中间步骤，每增加一个词元就相当于增加一轮新计算，强化学习可进一步训练模型学会何时进行更长推理。但这种方法代价明显，模型需一个token接一个token生成思考过程，答案越难，生成内容越长，推理所需时间和成本越高。Rohan认为这只是一个架构补丁，问题关键在于能否设计一种架构，用更少步骤完成更深计算，模型或许能在内部并行探索多个方向，动态决定计算量，或以不同于文本生成的形式组织推理过程。
认为Transformer不是终点，并不意味着它无法继续进步。Jerry认为，预训练仍可将更多知识、关系和模式压缩进模型，强化学习也可继续加入新工作流程。只要任务能被明确描述并获得足够训练数据，就有机会被写入Transformer。模型可继续扩大，训练数据可继续增加，推理阶段也可投入更多计算，其能力上限仍然很高，可能覆盖更多知识型工作，并通过工具调用和智能体系统完成更复杂流程。但这种提升有明确边界，模型擅长掌握已进入训练过程的能力，却不会自动适应训练完成后的变化。现实世界不断变化，新软件、规则和需求不断出现，静态模型的知识和工作方式会老化。所以，Transformer的上限并非突然停止提高，而是越来越依赖外部更新循环，研究机构需不断训练新版本让系统跟上世界。
经济因素会使扩大Transformer的路线维持相当长时间。Transformer不仅性能强，还已证明商业价值，训练模型成本可通过产品收入回报。相比之下，其他架构即便理论上可行，也未必能以同样成本产生足够好的产品。现有架构也仍有大量工程优化空间，稀疏化、混合专家模型、推测解码和更高效的推理系统等都能降低训练或部署成本，更多算力和数据也会带来改进。
Core Automation认为，单纯扩大Transformer只能将现有范式推得更远，它可成为覆盖广泛的强大工具，但很难仅凭规模增长获得部署后的自主学习能力。Transformer能走多远取决于人类投入的训练数据、算力和工程资源，而AGI能否出现则取决于模型能否摆脱对外部更新机制的依赖。
对于为何离开大模型公司创业，Jerry认为当前是独立创业更适合探索替代路线的时刻。市场竞争是原因之一，头部实验室围绕模型发布速度、产品能力和用户规模激烈竞争，Transformer已被证明能持续改善并产生收入，企业短期最合理选择是继续扩大现有路线以保证下一季度或下一轮发布不落后。在这种环境下，一项可能需要一年甚至更久、结果不确定的架构研究很难获得同等优先级。规模较小的实验室也会受头部公司影响，当领先者集中开发推理模型和编程智能体时，其他团队往往选择跟随已被验证的方向，导致整个行业竞争者众多，却可能都在解决相似问题、发布相似产品。Core Automation希望填补这一空缺，集中研究短期内未必占优，却可能重新定义模型能力边界的方向。
Rohan的创业动机还包括组织方式。他认为新架构不能只停留在论文或小规模实验中，还必须在真实硬件上高效运行，这要求架构研究、优化算法、训练系统和底层计算内核同时推进。大公司虽资源完整，但团队常被划分到不同部门，各自围绕既定目标和发布周期工作。创业公司规模小，却可从一开始按端到端研究需求组建团队，让不同专业背景的人共同面对同一个问题。他们并非否定大实验室的能力，而是判断不同组织适合承担不同类型研究，头部公司继续将Transformer推向更大规模，独立实验室则有空间押注尚未被验证的替代方案。
Core Automation的另一核心目标是建设高度自动化的AI实验室。这里的自动化并非立即将研究人员移出流程，而是扩大每个人的行动能力。过去，研究人员提出想法后，需亲自编写代码、配置实验、处理错误、分析结果，再设计下一轮尝试，许多时间消耗在执行环节。随着编程智能体和研究智能体的发展，一个研究者可同时推进更多任务，智能体能生成代码、运行实验、整理数据和协助排查问题，人类则将更多精力放在提出假设、解释结果和调整研究方向上。Core Automation希望围绕这种新工作方式从头设计研究流程，而非简单将智能体塞进旧有组织。
自动化带来的关键变化是提高实验迭代速度。架构研究搜索空间巨大，每个计算模块、训练方法和系统设计都可能有多种选择，单次实验未必能说明问题，真正决定进展速度的是团队完成“提出想法—执行实验—获得结果—形成新假设”循环的速度。Jerry提到，若每天能稳定完成一个有效架构实验速度已相当可观，未来若能提高到每天十个甚至数百个实验，研究过程会更接近大规模搜索与优化，团队可快速淘汰无效方向，将资源集中到表现更好的方案上。这种实验室需要一套能理解代码库、管理算力、追踪实验、比较结果并延续任务的智能体系统，还需完整自动化基础设施让实验结果直接进入下一轮研究。Core Automation本身也被视为一项组织实验，一个由智能体和自动化流程深度支撑的小团队，究竟能完成过去多大规模的研究工作，他们并不期待短期内让AI独立完成所有科学发现，现阶段目标是让每名研究人员拥有更大研究杠杆，在有限团队和算力条件下探索更多架构方向。自动化实验室既是提高研发效率的方法，也与其技术路线形成呼应，团队试图让研究流程具备更强持续学习能力，同时寻找能让模型自身持续学习的架构。
关于AGI，业界常见定义是一个能在大多数具有经济价值的工作中超越人类的系统。但Jerry认为这个定义遗漏了关键问题，即如果人类停止训练新模型，系统还能否维持并扩大自身能力。一套模型即便能完成大量工作，只要依赖人类收集数据、设计训练任务、修复缺陷并发布新版本，就未脱离人类主导的改进循环，可能是强大自动化工具，但不一定具备真正通用学习能力。Jerry给出的标准更严格，AGI应能在没有人类参与的情况下改进自身。这个定义与“完成经济活动”不冲突，训练和改进AI模型本身就是复杂且有经济价值的工作。若一个系统能胜任广泛人类工作，却无法承担改进智能系统这项工作，其通用性仍有缺口。目前表现最好的形态仍是人类与大模型组合，模型负责生成、搜索和执行，人类负责设定目标、判断结果、发现错误并调整方向，这种协作能创造很高价值，但许多任务中移除人类，系统可靠性会明显下降。Jerry表示，至少从他观察的情况看，继续沿现有路线扩大模型，不会自然消除人类在循环中的作用，模型可变得更有用，却不会因此自动获得长期学习和自我改进能力。所以，Core Automation所追求的AGI，不只是一个知识更多、推理更强的模型，而是一个能观察自身表现、从真实环境中获得经验并持续改变自己的系统。按照这一标准，AGI的到来不会仅由某项评测分数宣布，更明确信号是系统开始承担过去由人类研究人员完成的改进循环，且即便没有实验室持续为它准备下一轮训练，它仍能适应变化、发现不足并获得新能力。
