NVIDIA近日正式推出面向生产级应用的Nemotron3Embed系列嵌入向量模型，该系列包含三个不同规模的开源模型，分别针对精度、轻量化和硬件优化需求设计。其中8B参数版本在检索嵌入基准测试RTEB的16项公开任务中，以平均NDCG@10得分78.46登顶榜首，成为当前性能最强的开源嵌入模型。1B参数的BF16版本得分72.38，较前代模型提升10.4分；针对Blackwell架构优化的1B-NVFP4版本在保持99.5%精度的情况下，吞吐量较BF16版本提升2倍。
技术架构方面，三个模型均采用双向注意力掩码训练的Transformer编码器，支持最大32,768个token的序列长度，覆盖34种语言并遵循OpenMDW-1.1开源协议。基础模型基于Mistral架构衍生：8B版本源自Ministral-3-8B-Instruct-2512，两个1B变体则以Ministral-3-3B-Instruct-2512为基础。研发团队通过神经架构搜索将3B模型剪枝至2B参数，再结合8B教师模型的知识蒸馏技术，最终迭代出1.14B参数的轻量化模型。NVFP4版本在此基础上引入量化感知蒸馏，使用512个样本进行校准、2万个样本训练，有效恢复了长输入场景下的精度损失。
在部署兼容性上，三个版本呈现差异化特性。8B和1B的BF16版本支持Transformers与Sentence Transformers框架，而1B-NVFP4版本仅兼容vLLM0.25.0的/v2/embed接口。硬件适配方面，NVFP4版本覆盖Ampere、Hopper、Lovelace和Blackwell四代架构，BF16版本则主要面向前三代及Blackwell架构。针对1B模型推出的NIM微服务采用Rust语言构建，在GB200和RTX PRO6000硬件上展现出超越vLLM检查点的性能表现。
应用场景覆盖多语言企业搜索、代码检索和智能体记忆三大领域。模型训练数据包含SWE-bench等代码数据集，支持跨语言检索和32K token长上下文处理，可实现长对话摘要的嵌入生成。针对成本敏感场景，NVIDIA建议采用分层RAG策略：使用1B-NVFP4模型处理高容量召回任务，8B模型负责复杂查询处理。配套发布的代码示例包含基于Sentence Transformers的本地推理方案和vLLM服务端部署方案，查询与文档通过"query:"和"passage:"前缀区分，嵌入向量经L2归一化后可直接通过点积计算余弦相似度。
