近期，推理芯片领域再度成为资本与科技巨头角逐的焦点。过去两周内，OpenAI联合博通推出首款自研推理芯片Jalapeño，Etched以50亿美元估值完成融资并高调亮相，Anthropic被曝与三星洽谈定制芯片合作，DeepSeek和智谱也相继传出自主研发计划。与此同时，meta宣布新一代MTIA芯片将于9月投产，Positron则被曝正在洽谈新一轮约7.5亿美元融资。这一系列动作表明，推理芯片市场正迎来新一轮爆发式增长。
资本市场对推理芯片的热情从估值变化中可见一斑。以SambaNova为例，这家曾在2025年底与英特尔谈判收购未果的公司，今年7月完成10亿美元融资后估值飙升至110亿美元，较7个月前的16亿美元增长近7倍。这种估值跃升反映出投资者对推理芯片市场前景的强烈信心。然而，回顾过去两年，Groq、Cerebras、Graphcore等公司虽以推理效率、低延迟等卖点进入市场，却未能撼动英伟达的统治地位——Graphcore最终以约5亿美元价格卖身软银，Groq则将技术授权给英伟达，Cerebras虽成功上市但毛利率持续受质疑。
与上一轮挑战者主要为芯片创业公司不同，本轮入局者出现了显著变化。OpenAI、meta、谷歌、亚马逊等科技巨头，以及DeepSeek、智谱等模型厂商开始深度参与芯片定义与设计。这些公司不仅掌握着核心模型技术，更拥有庞大的用户基础和持续运行的推理负载，这是初创企业难以比拟的优势。例如，meta计划在未来两年内推出四代MTIA芯片，覆盖从推荐系统到生成式AI的多样化场景；OpenAI与博通合作的Jalapeño芯片，通过优化模型、算子和内存需求，可降低约50%的推理成本。
推理市场与训练市场的本质差异，是本轮竞争呈现新格局的关键原因。训练任务需要芯片具备高度通用性以适应快速演变的模型架构，而推理负载在模型部署后趋于稳定，运营方能够明确预测请求特征、并发量和延迟要求。这种稳定性使得芯片可以针对特定任务进行优化，无需为所有算法保留冗余能力。更关键的是，不同推理场景对性能的需求差异巨大：实时语音交互要求低延迟，批量图像生成更关注吞吐量；长上下文处理需要大内存，简单对话则对单位成本敏感。这种需求的多样性，为多种技术路线提供了生存空间。
科技巨头的自研芯片策略呈现出明显差异化。谷歌最早将模型与芯片协同设计，其TPU系列已迭代至第八代，并拆分为训练专用TPU 8t和推理专用TPU 8i；亚马逊通过Graviton、Trainium等自研芯片覆盖通用计算和AI训练推理，相关业务年化收入已超200亿美元；meta则采取"自研+采购"双轨策略，在扩大与英伟达、AMD合作的同时，计划通过复用芯片模块将更新周期压缩至6个月。这些公司的共同逻辑是：用自研芯片承接稳定负载以降低成本，同时保留外部采购选项以保持灵活性。
对于中国公司而言，推理芯片研发还面临额外的供应链挑战。DeepSeek的推理芯片项目已推进约一年，但代工伙伴尚未确定；该公司此前在适配华为昇腾芯片时曾遇到稳定性问题，最终采用"英伟达训练+昇腾推理"的组合方案。智谱则更早启动定制芯片探索，其考量在于：随着GLM模型调用量增长，推理成本优化变得愈发重要，但能否积累足够稳定的负载以摊薄芯片设计成本仍是未知数。这种背景下，中国公司的推理芯片研发不仅需要解决技术问题，更要应对先进制程、高带宽内存等供应链限制。
初创企业则选择聚焦细分市场以建立竞争优势。Etched的Sohu芯片专为Transformer架构设计，通过硬件固化常用计算模式提升利用率，理论上8颗Sohu可达到160颗H100的推理吞吐量，但需承担模型架构变化带来的适配风险；SambaNova通过提供芯片、服务器和软件的完整解决方案，赢得摩根大通等企业客户的本地化部署订单；Positron则聚焦内存瓶颈，其第一代FPGA方案在内存利用率和能效比上优于H100，下一代ASIC芯片计划连接更大容量高速内存。这些公司的共同特点是：不追求通用性，而是通过深度优化特定场景性能来建立差异化优势。
市场研究机构TrendForce预测，2026年云厂商自研ASIC服务器出货量将增长44.6%，而GPU服务器增速仅为16.1%。这种分化趋势背后是不同负载的差异化需求：训练、快速迭代模型和通用推理仍依赖GPU，稳定的大规模负载逐步迁移至定制芯片，而对延迟、内存或本地部署有特殊要求的场景则选择创业公司方案。短期来看，多条技术路线将共同增长；但长期而言，当前的市场参与者数量远超实际需求，推理芯片市场终将经历一轮洗牌，形成"英伟达主导+垂直场景专用芯片共存"的新格局。
