在调用 DeepSeek API 时,上下文缓存是降低推理成本最核心的机制——以 DeepSeek 官方为例,缓存命中后的输入单价仅为未命中单价的 1/50(直降 98%,高峰期从 2 元/百万 tokens 降至 0.04 元,空闲期从 1 元降至 0.02 元);即便在按 1/10 计费的厂商(如阿里云百炼、华为云),降幅也高达 90%。
目前主流云厂商均已支持无需手动配置的隐式前缀缓存,但我们在实测 9 家主流供应商后发现:各家底层的缓存触发门槛与命中增长模式存在显著差异。同样的短 Prompt,在不同平台上的实际缓存命中率可能相差 15%~30%,在部分平台甚至会因为未达隐性门槛而完全无法触发缓存。
本文基于 9 家供应商的真实接口探测数据,拆解各家隐式缓存的起效门槛、命中模式、选型与工程优化策略。
省流结论(TL;DR)
128 缓存门槛:火山引擎、腾讯云、非线智能、联通云(128 tokens 起步即命中、按 128 块满额命中、无尾部预留折损)。
256 缓存门槛:阿里云百炼、百度智能云(满 257 tokens 起步即命中 256 tokens,适合固定前缀稳定在 256 tokens 以上的场景)。
注意“尾部预留”折损:DeepSeek 官方、华为云(始终固定留出尾部约 1 个 128 tokens 块不走缓存,短文本下实际命中率偏低,长文本下差距收敛)。
注意高缓存门槛:硅基流动(需输入达到 1025 tokens 以上才触发缓存,仅适用于长上下文场景)。
一、 测试说明与缓存命中门槛
1. 测试方法
本次实测覆盖 9 家主流 DeepSeek API 供应商(统一测试 DeepSeek-V4.1-Flash 模型 API 并关闭思考模式)。为避免历史请求交叉污染,每组测试均使用独立随机前缀隔离,采用“2 次预热 + 2 次读取”串行探测(间隔 3~5 秒),分别验证两种场景:
完整重放:将完全相同的请求连续发送多遍,观察端到端总输入达到多少 tokens 时开始命中。
变后缀(贴近真实业务):保持前面的公共前缀不变,仅改变末尾约 8~10 tokens 的动态任务指令,验证“固定系统提示词 + 动态用户提问”下的真实前缀复用表现。
2. 起效门槛分三档
根据实测首次触发缓存的输入长度,9 家供应商可分为三档:
128 tokens 档:火山引擎、腾讯云、联通云、非线智能、华为云。最小缓存命中量均为 128 tokens,完整重放在 128~193 tokens 区间内即开始命中。
256 tokens 档:DeepSeek 官方、阿里云百炼、百度智能云。完整重放模式均在 257 tokens 首次命中;阿里云百炼与百度智能云最小命中量为 256 tokens,DeepSeek 官方为 123 tokens。
1024 tokens 档:硅基流动。输入需达到 1025 tokens 以上才触发缓存,最小命中量为 1024 tokens(短 Prompt 场景无法命中)。
二、 九家供应商实测数据
下表按触发门槛从低到高排序(单位:tokens)。中间列为首次观察到缓存命中时的总输入长度(完整重放 / 变后缀),右侧列为首次触发时的缓存命中量:
| 供应商 | 首次触发输入(重放 / 变后缀) | 缓存命中量 |
|---|---|---|
| 火山引擎 | 128 / 136 | 128 |
| 腾讯云 | 128 / 136 | 128 |
| 非线智能 | 128 / 137 | 128 |
| 联通云 | 130 / 148 | 128 |
| 华为云 | 193 / 222 | 128 |
| DeepSeek 官方 | 257 / 264 | 123 |
| 阿里云百炼 | 257 / 265 | 256 |
| 百度智能云 | 257 / 264 | 256 |
| 硅基流动 | 1025 / 1037 | 1024 |
数据细节解读:
为什么“变后缀”比“完整重放”需要多发一些 tokens 才触发?
因为表中统计的是 API 返回的总输入长度。在变后缀模式下,末尾有一部分 tokens 的动态后缀无法被缓存,必须等前面的固定共享前缀自身凑满 128 或 256 tokens 后才会触发命中。
为什么华为云、DeepSeek 官方发了 193 / 257 tokens,却只命中 128 / 123 tokens?
多数厂商是“发满 128 命中 128、发满 257 命中 256”,而华为云和 DeepSeek 官方在底层机制上会固定留出末尾约 128 / 134 tokens 不走缓存(详见下文模式 2)。
三、 深度拆解:两大缓存命中模式
当缓存命中时,并不是所有输入 tokens 都会被算作缓存命中——供应商通常只会把前面凑够固定块(Block)大小的部分计入 cached_tokens。实测中各家表现为截然不同的两种模式:
模式 1:标准“凑整块”模式
代表厂商:火山引擎、腾讯云、非线智能、联通云、阿里云百炼、百度智能云
核心特征:触发门槛与块大小一致 + 严格按 128/256 整数倍命中 + 凑满即命中(无尾部预留)。
具体表现:
128 整数倍阵营(火山引擎、腾讯云、联通云、非线智能):重放输入一满 128~130 tokens 即触发,起步直接命中 128;后续随输入增长,严格按 256, 384, 512 ...(128 的整数倍)阶梯增长,没有任何零碎数字。
256 整数倍阵营(阿里云百炼、百度智能云):重放输入满 257 tokens 触发,起步直接命中 256;后续全部严格按 256, 512, 768 ...(256 的整数倍)阶梯增长,没有任何零碎数字。
模式 2:“高门槛触发、128 整数块步进”模式
代表厂商:华为云、硅基流动、DeepSeek 官方
核心特征:触发门槛高于基础块(128 tokens) + 平台期缓存仍按 128 的整数倍步进。
三种细分表现:
华为云(整块预留)
起步:128~192 tokens 不触发,总输入需达到 193 tokens 才启动,且起步只算 128。
长输入:始终固定留出尾部至少一个 128 块不走缓存——同样长度下别人命中 512 1024 2048 4096,华为云实测全部少算一块,为 384 896 1920 3968。
硅基流动(高门槛起步、小步进增长)
起步:设定了 1025 tokens 的高触发门槛,起步命中 1024。
长输入:跨过 1024 门槛后,并非按 1024 倍数跳变,实测在 2048 附近出现了 1920(即 2048 - 128),说明底层仍按 128 粒度步进。
DeepSeek 官方(临界区逐 token 爬坡 + 整块预留)
临界区逐 token 爬坡(独有现象):重放发 256 tokens 时命中为 0;发 257 tokens 时首次触发,但因尾部固定预留约 134 tokens 不走缓存,只命中 123(257 - 134)。随后输入每加 1 token,命中量跟着加 1(258→124、260→126、261→127),直到 262 tokens 才凑满 128。
长输入:爬坡之后的平台期依然是 128 的整数倍(384, 640, 896, 1408, 1920),但同样因为尾部固定预留,永远比总输入少算一截。
四、 业务选型与 Prompt 优化建议
1. 按业务 Prompt 长度选型(以 1024 tokens 为界)
场景 A:短上下文场景(≤ 1024 tokens,如轻量指令、短文本分类/抽取)
首选:火山引擎、腾讯云、非线智能、联通云
128 tokens 起步即命中、128 整数倍满额命中且无尾部预留。在百余至上千 tokens 区间内触发最早、缓存计费占比最高。
次选:阿里云百炼
满 257 tokens 起步即命中 256 tokens,按 256 整数倍满额命中、无尾部预留;只要业务固定前缀稳定在 256 tokens 以上,缓存利用率同样扎实。
注意折损与监控盲区:DeepSeek 官方、华为云、百度智能云
DeepSeek 官方(257 起步)与华为云(193 起步):均固定预留尾部约 1 个 128 块不走缓存,在短输入下固定少算一块,会导致实际命中率比“凑整块”厂商低 15%~30%。
百度智能云:虽然同样是 257 起步,但未命中时 API 响应会省略 cached_tokens 字段,不利于精细化监控缓存命中率。
不适用:硅基流动
受限于 1025 tokens 的起步门槛,1024 tokens 以内的请求完全无法触发缓存。
场景 B:长上下文场景(> 1024 tokens,如 Agent、多轮对话、长文档问答)
各家空间命中率差距收敛:当固定前缀超过 1024 tokens(尤其达到数千 tokens 以上)时,无论是 256 步进(阿里云百炼、百度智能云),还是尾部固定少算一个 128 块(DeepSeek 官方、华为云),零头损耗占总输入的比例已降至 5%~10% 以内。此时可优先围绕缓存单价、缓存有效期(TTL)进行选型。
硅基流动进入可用区:跨过 1025 tokens 门槛后,其底层同样按 128 粒度步进。
2. 匹配缓存机制的 Prompt 工程优化
严守“静态前置、动态后置”原则
隐式缓存底层依赖从首 token 开始的精确前缀匹配——只要中间有任意一个 token 发生变化,从该位置往后的所有内容都会全部丧失缓存命中。
放在最前面(静态区):角色设定、工具定义、Few-shot 示例、公共知识库文档。
放在最末尾(动态区):当前时间戳、动态会话变量、用户个性化信息及当轮提问,防止动态内容提前截断可复用的公共前缀。
针对不同厂商做好“块对齐”
使用“标准凑整块”厂商(火山引擎 / 腾讯云 / 非线智能 / 阿里云百炼等):尽量将固定前缀长度微调至略超 128 或 256 的整数倍(建议多预留 20~30 tokens 缓冲),避免因为差几个 token 而跌入下一档,白白浪费近百个 token 的缓存折扣。
使用“尾部预留”厂商(DeepSeek 官方 / 华为云):若希望前 N×128 tokens 的静态前缀稳定命中,总输入长度需至少达到 (N+1)×128 并预留缓冲(例如在 DeepSeek 官方接口上想完整命中前 128 tokens,总输入需达到 262 tokens 以上)。








