ITBear旗下自媒体矩阵:

英伟达开源Nemotron 3 Embed系列模型,8B版本RTEB夺冠显实力

   时间:2026-07-18 08:16:03 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

英伟达近日宣布开源推出面向AI智能体与检索增强生成(RAG)场景的Nemotron 3 Embed系列模型,该系列以开放权重形式发布并支持商业应用,目前已通过Hugging Face与NVIDIA NIM平台免费向开发者开放。这一举措旨在为不同规模的企业提供灵活部署的解决方案,同时降低AI应用的开发成本。

系列模型的核心优势在于其32K上下文窗口设计,可实现高精度检索并减少重复操作。据英伟达介绍,该特性能够显著降低AI智能体的检索频率,避免不必要的推理触发,从而将Token消耗量控制在更低水平。这一设计特别适用于需要处理长文本或复杂查询的场景,例如企业知识库、智能客服等应用领域。

为满足多样化部署需求,英伟达同步推出三个版本模型:最高规格的Nemotron-3-Embed-8B-BF16拥有80亿参数,基于Ministral-3-8B-Instruct-2512架构构建,适用于对精度要求严苛且风险较高的企业级场景;高效率版本Nemotron-3-Embed-1B-BF16参数规模为11.4亿,通过蒸馏技术从Ministral-3-3B-Instruct-2512父模型优化而来,更侧重时延与成本控制;针对Blackwell架构GPU优化的Nemotron-3-Embed-1B-NVFP4版本,在保持相同检索精度的前提下,内存占用进一步降低,吞吐量最高可提升至2倍。

在性能评估方面,最高规格版本在RTEB(检索嵌入基准)测试中以78.5%的得分位居榜首,同时在MMTEB检索基准测试中取得75.5%的成绩。RTEB作为由Hugging Face团队与MTEB社区联合推出的新型评估标准,专门针对RAG系统和智能体等真实场景的检索质量设计,其测试结果具有较高的行业参考价值。

该系列模型的开源策略引发开发者社区广泛关注。通过提供从高精度到高效率的全谱系解决方案,英伟达试图在AI基础设施领域构建更完整的生态布局。开发者可根据具体业务需求选择适配版本,例如金融、医疗等领域可优先部署8B参数版本以确保决策准确性,而物联网、边缘计算等场景则可采用优化后的1B参数版本以平衡性能与成本。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version