LLM缓存机制解析:隐式0% vs 显式90%命中率
三组对照数据 样本 模式 LLM 调用 非缓存 in-tokens 缓存 in-tokens 缓存占比 总费用 2 张 cache-off 3 16,139 0 0.00%(隐式) $0.0335 2 张 cache-on 3 1,581 14,558 90.20%(显式) $0.0641 10 张 cache-off 19 102,800 0 0.00%(隐式) $0.2172 10 张 cache-on <
2026/7/10 16:20:32