AI领域迎来一项重要突破,一家名为Liquid AI的初创企业正式推出专为智能体工作流设计的端侧模型LFM2.5-2.6B。这款模型拥有26亿参数规模,其核心优势在于无需连接云端API,即可在智能手机等终端设备上实现完全本地化运行。这一特性为开发者提供了兼具成本效益、低延迟响应和隐私保护的端侧智能解决方案,标志着端侧智能应用进入新的发展阶段。
在技术实现层面,该模型通过独特的训练架构构建核心竞争力。研发团队基于约34万亿词元的语料库进行预训练,将词表容量扩展至128K,为模型提供了强大的语言理解基础。后续训练采用四阶段协同优化策略:通过监督微调建立基础能力,利用教师特化提升专业表现,结合多领域在策略蒸馏增强泛化性,最终通过智能体强化学习赋予复杂任务处理能力。这种系统化训练方式使模型在指令遵循和工具调用等关键指标上,达到接近百亿参数规模模型的性能水平。
硬件适配性测试显示,LFM2.5-2.6B展现出卓越的推理效率。在配备M5Max芯片的设备上,模型可实现每秒220个token的处理速度;即便在主流智能手机端,仍能保持30token/秒的稳定响应。这种性能表现得益于模型架构与硬件特性的深度优化,确保在资源受限的终端设备上也能流畅运行。为促进技术生态发展,该模型及其基础版本已在Hugging Face平台全面开源,同时原生支持llama.cpp、MLX、vLLM等主流推理框架,为开发者提供便捷的集成方案。












