AIPress.com.cn报道
2月28日消息,据《华尔街日报》披露,OpenAI将导入英伟达最新基于Groq技术的AI推理芯片。
英伟达计划在下个月于圣何塞举办的 GTC 开发者大会上,发布一款全新的处理器。这款产品的核心使命非常明确:全力加速 AI 推理过程。
据悉,新产品将集成 Groq 设计的芯片技术。这一举措旨在帮助 OpenAI 等头部客户构建运行速度更快、能效比更高的 AI 系统,以应对日益庞大的模型推理需求。
有消息称,英伟达已与 Groq 签署了一项价值约 200 亿美元的技术授权协议。
AI 推理是指模型在训练完成后实际运行和响应用户请求的过程。随着大模型应用场景不断扩大,推理环节的算力需求也在快速增长。过去几年,英伟达凭借 GPU 在模型训练领域占据主导地位,如今将推理单独拎出来作为产品方向,显示出行业重心正在发生变化。
Groq 此前以自研的 LPU 推理芯片受到关注,主打低延迟、高吞吐的推理性能。此次与英伟达合作,意味着其技术路线获得了行业巨头的认可,同时也为英伟达在推理领域补充了新的能力。
目前,双方尚未就此事公开回应。更多细节预计将在 GTC 大会期间披露。












