麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究团队提出了一种突破性方法，旨在解决大型语言模型处理超长文本时面临的“上下文腐烂”难题。这项发表于arXiv平台的研究（编号：2512.24601v1）显示，通过引入递归语言模型（RLM），AI系统处理长文本的能力实现了两个数量级的跨越，同时保持成本可控甚至更低。
传统语言模型在面对长文本输入时，性能会随文本长度增加而急剧下降。研究团队将其类比为人类试图一次性记忆整本书内容，最终导致关键信息丢失。新提出的递归语言模型则模仿人类处理复杂任务的方式——通过分解问题、标记重点、按需查阅，而非强行记忆所有细节。这种策略使AI能够像资深编辑审阅长篇小说般，将部分章节交由助手分析，再将结果整合为完整结论。
技术实现层面，递归语言模型将长文本存储在类似“外部图书馆”的环境中，而非直接输入神经网络。AI通过编写代码与文本交互，能够定位特定段落、分析结构并提取关键信息。当遇到需要深入分析的片段时，系统会启动子任务调用自身副本处理，形成多层级递归调用机制。这种设计突破了传统模型上下文窗口的限制，理论上可处理无限长度文本。
实验验证环节，研究团队设计了三类渐进式测试：基础版“单针干草堆”测试要求从海量文本中定位特定信息；进阶版OOLONG测试涉及语义转换与信息聚合；最高难度的OOLONG-Pairs测试则需找出满足复杂条件的成对信息。结果显示，在处理32000词汇的配对任务时，递归语言模型准确率达58%，而传统模型几乎完全失效。代码理解测试中，该模型成功解析了包含90万词汇的软件项目。
成本分析显示，递归语言模型在中位数场景下比基础模型更经济。其通过选择性处理关键信息，避免了传统方法对整段文本的盲目压缩。尽管少数复杂任务可能触发大量递归调用导致成本上升，但研究团队指出，通过异步处理与并行计算可显著优化效率。在文档搜索案例中，处理830万词汇语料库的成本仅0.079美元，较传统方法降低三倍以上。
模型行为观察发现，递归语言模型展现出类似人类研究者的智能特征：使用正则表达式过滤无关信息、基于先验知识定位关键词、通过分工合作处理复杂任务。不同模型呈现差异化策略——Qwen3-Coder倾向对每行文本启动子调用，而GPT-5则更谨慎地权衡调用必要性。所有模型均表现出答案验证习惯，通过小规模上下文核实初步结论的准确性。
技术实现细节方面，研究团队采用Read-eval-Print Loop（REPL）交互环境，将长文本存储为可编程变量。系统提示经过精心设计，引导模型平衡调用频率与处理质量。当前实现虽采用顺序执行模式，但研究指出异步架构可提升效率。模型选择策略显示，混合使用不同规模模型（如GPT-5处理主逻辑、GPT-5-mini处理子任务）能优化成本效益比。
该研究同时指出技术局限性：同步执行模式限制处理速度，递归深度受基础模型约束，部分模型存在上下文管理决策失误。训练数据未针对递归调用优化，导致成本预测难度增加。研究团队建议，未来可通过专门训练方法、异步处理技术与更深层递归机制突破现有瓶颈。
这项创新标志着AI发展路径的重要转向——从单纯扩大模型规模转向优化信息处理策略。递归语言模型通过模拟人类分解复杂问题的认知模式，为处理法律文档分析、科研文献综述等长文本场景提供了新工具。其模块化设计理念与工具型智能发展方向，可能重塑未来AI系统的架构设计。
Q&A环节，研究团队解释：递归语言模型与传统ChatGPT的本质区别在于信息处理方式——前者通过外部存储与代码交互管理信息，后者依赖内部记忆；成本优势源于精准定位关键信息而非全量处理；理论文本处理长度无上限，已实现千万级词汇处理能力。完整技术细节可查阅原始论文（arXiv:2512.24601v1）。
