ITBear旗下自媒体矩阵:

Neon与Castform强强联合:4B小模型文档搜索表现亮眼,成本优势显著改写行业格局

   时间:2026-08-07 17:34:10 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

在人工智能领域,一场关于文档搜索技术的革新正在悄然发生。Neon与Castform两家科技公司携手合作,通过强化学习技术后训练出一款仅拥有40亿参数的开源模型,该模型在文档搜索任务中的表现不仅不逊色于当前备受瞩目的GPT-5.6Sol,甚至在某些指标上实现了超越,同时其单次推理成本却仅为后者的百分之一左右,这一成果引发了业界的广泛关注。

传统文档检索主要依赖嵌入式搜索技术,即将文档内容转化为数值向量,通过计算向量间的相似度来匹配搜索结果。然而,随着AI智能体技术的兴起,搜索方式正经历着从嵌入式向智能体式的转变。智能体式搜索允许模型将复杂问题拆解为多个子问题,自主规划搜索路径、评估结果,并基于反馈进行下一轮搜索,直至获取完整信息。这种模式虽能处理更复杂的查询,但每次搜索均需调用高性能模型,导致耗时与成本显著增加。以GPT-5.6Sol为例,其单次搜索请求耗时超过10秒,成本约0.03美元,这在需要多轮检索的场景中显得尤为低效。

Neon与Castform的合作正是针对这一痛点展开。Neon负责提供文档存储与搜索基础设施,而Castform则专注于训练模型以优化搜索策略,即判断“何时该发起搜索”以及“如何精准搜索”。训练过程中,Castform采用强化学习框架,让模型通过不断试错完成任务,系统根据结果质量(包括答案准确性、文档匹配度、段落引用合理性等维度)进行评分,并将评分反馈至下一轮训练。经过多轮迭代,最终训练出的模型在Neon的验证测试中取得了平均1.447的评估分数,不仅超越了GPT-5.6Sol的1.369,也优于作为对照的GPT-5.4的1.377,刷新了该验证集的历史纪录。

成本优势是这一合作成果的另一大亮点。尽管在搜索精度上实现了对GPT-5.6Sol的赶超,但40亿参数的小模型单次推理成本仅为0.000929美元,而GPT-5.6Sol则高达0.087338美元,两者相差近94倍。对于依赖多轮模型调用的智能体应用而言,这种成本差异意味着整体计算开销的指数级下降,从而彻底改变了单位成本结构。例如,在需要多次检索的复杂任务中,使用新模型可显著降低总成本,同时保持甚至提升搜索质量,为AI智能体的规模化应用提供了经济可行的解决方案。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version