深度 | 推理引擎的「Red Hat 时刻」:英伟达AMD破天荒同投一家,开源免费午餐终结

📅 2026/8/5 13:59:30
深度 | 推理引擎的「Red Hat 时刻」:英伟达AMD破天荒同投一家,开源免费午餐终结
深度 | 推理引擎的「Red Hat 时刻」英伟达AMD破天荒同投一家开源免费午餐终结这是一篇深度研究不是新闻简报。基于 45 个来源的交叉验证。证据等级[A] 官方/一手 [B] 2可靠来源 [C] 单一来源 [D] 个人判断核心观点2026 年上半年两个核心开源推理引擎 vLLM、SGLang 各立山头——Inferact $1.5 亿种子轮、RadixArk $1 亿种子轮英伟达、AMD、英特尔 CEO 罕见同投一家。这不是 License 闭源是治理与人才的收编开源没有被杀死它被聘用了。一、英伟达、AMD、英特尔 CEO同框一张期权池2026 年 5 月 5 日一个几乎不可能的阵容出现英伟达NVentures、AMD、联发科、Databricks 同投 SGLang 商业化公司 RadixArk 的 $1 亿种子轮英特尔 CEO 陈立武与博通 CEO Hock Tan 以个人天使加入。[A]四个互为对手的芯片巨头把钱投进同一家中立软件公司。原因只有一个推理引擎成了硬件之上的收费站谁都不想被排除在外。这轮估值 $4 亿加上 1 月官宣的 vLLM 商业实体 Inferact$1.5 亿种子、$8 亿估值半年内两个最核心的开源推理引擎各立山头。[A]8 月初中文媒体把两件事合写成一期「双子星」很多人以为是8 月 2 日同日官宣——真实节奏是 1 月和 5 月叙事被媒体统一收编了。[C]这不是孤立事件。llama.cpp 作者 2 月全职加入 Hugging Face英伟达 3 月开源推理编排层 Dynamo 1.0Together/Fireworks/Modal 5-7 月合计融资 $26.5 亿。[B]推理引擎这个过去三年被当免费公共品的软件层正在整体被资本化。本文回答三个问题公司化在技术上意味着什么、谁在打谁、开源免费午餐是否真的终结了。二、技术拆解公司化改的不是 License是治理vLLM 与 SGLang 的竞争本质是两种 KV Cache 复用哲学的对决。[A]vLLM 靠 PagedAttention 起家把 KV 缓存切成固定块用操作系统式页表管理解决显存碎片化让批处理吞吐翻 2-4 倍V1 引擎用无阶段调度器统一 prefill/decode官方称比 V0 快约 1.7 倍。到今天它是生产环境的默认选择GitHub 约 8.5 万星。[A]SGLang 的 RadixAttention 走另一条路把 KV 缓存建成基数树自动复用最长公共前缀。在多轮对话、RAG、Agent 工具调用这类前缀高度重复的工作负载里缓存命中率 52-74%吞吐可达 vLLM 的 3-6 倍还最早把 prefill/decode 物理拆分做进开源引擎。[A]上图2026 推理栈的四层结构——硬件、引擎、控制面、服务层公司化发生在引擎层RadixArk 卖的不是更快的引擎是GPU 利用率。CMU 实测 756 块 GPU 约 20% 的执行时间耗在等待推理场景浪费更夸张——Azure Code 65%、OpenAI Chat 52%行业平均 GPU 利用率只有约 5%。一个 $4 百万的 GB200 机架在 50% 利用率下等于每年烧掉 $2 百万。[B] 这正是公司化的盈利点模型越便宜把利用率从 5% 抬到 40% 就越值钱。反直觉的是两家公司都没改 LicensevLLM 和 SGLang 至今 Apache 2.0。公司化是人才与服务的收编不是代码闭源。真正的变化在治理vLLM 进了 PyTorch 基金会、有中立理事会但核心维护者多数受雇 InferactSGLang 核心团队整建制进 RadixArk没有独立基金会兜底。这是治理不对称。[D]三、竞争格局三种生意一个新护城河玩家引擎融资/估值时间关键信号InferactvLLM开源$1.5 亿种子 / $8 亿2026-01-22a16zLightspeed 领投RadixArkSGLangMiles开源$1 亿种子 / $4 亿2026-05-05英伟达AMD联发科英特尔 CEO 天使NVIDIADynamoTRT-LLMRDDynamo 3/16 GA编排层「推理OS」7x Blackwellllama.cpp本地/边缘MIT无公司作者 2/20 入 HF纯开源无商业实体Together AIATLAS开源引擎$8 亿 C 轮 / $83 亿2026-07-01推理云$11.5 亿预订额Fireworks自研开源引擎$15 亿 D 轮 / $175 亿2026-07ARR $10 亿芯片厂的动机各异但同向。英伟达要主导引擎与自家硬件对齐、最大化 H100/B200 利用同一季度还投了 Fireworks 和 TogetherAMD的动机最致命——ROCm 需要绕开 CUDA 的通道没有 SGLang 这种硬件中立引擎MI300 系没有入口英特尔要替 Gaudi 找一条正式出路。[B]上图从社区项目到商业公司的关键节点——真正的分水岭在 2026 年 1-5 月表面都是公司化内里三种生意云厂商把引擎当获客成本、回本靠托管消耗NVIDIA 的 Dynamo 是软硬一体的控制面卡位RadixArk/Inferact 是 Red Hat 式的开源核心企业服务。Red Hat 自己 5 月把 AI 3.4 建在 vLLM 上放话模型厂商发模型之前要先 build to vLLM——这个比喻既是被动修辞也是主动战略。[B]上图资金、开源与控制的三角关系——芯片厂投资中立层NVIDIA 用 Dynamo 抢占控制面推理云是被夹击的一方一边被引擎公司亲自卖 managed 威胁一边被 DeepSeek 价格战压毛利。但 5-7 月的融资潮说明资本仍在押注其分发渠道价值。[B]四、落地与生态免费午餐被价格战量化采用信号很强vLLM 约 8.5 万星SGLang 号称部署在 40 万 GPU 上、每天处理数万亿 tokenTGI 3 月 21 日归档后 Hugging Face 默认切到 vLLM。[A]但有个诚实的提醒简报里流传的vLLM 45% / SGLang 17% / TRT-LLM 25%“份额没有任何调查能证实是方向正确的定性推断。技术媒体更常用的表述是vLLM 是 80% 团队的安全默认SGLang 是增长最快的挑战者”。[C]价格战把引擎效率变成了美元。DeepSeek V4-Flash 7 月 31 日上线把成本会计从每百万 token改写成每完成一个任务一个标准基准任务约 $0.03比 Claude Fable 5 的 $3.15 便宜约 105 倍。OpenAI 被迫 7 月 30 日把 Luna 输出价砍 80%。同期 OpenRouter 数据显示中国模型占全球 token 调用 63.5%28 天到 7/26DeepSeek 单日 8 万亿 token。[B]这跟公司化是同一枚硬币的两面每 token 利润趋近于零时谁能把 GPU 利用率提上去、把前缀缓存命中率从 20% 抬到 80%谁就握住 $/任务 的定价权。社区的总体情绪是谨慎接受。质疑集中在三点会不会走开源核心变闭源核心的老路、企业功能会不会被门槛化、商业化后两家不再互相公布基准。但也有人指出这是可持续的唯一路径——免费引擎付费托管比纯白嫖的维护者枯竭健康。中国的态度更微妙知乎主流判断是大基建下的必然但硅基流动 8 月 5 日港股招股书被扒出毛利率 -24%、公有云毛利率 -119%Token 工厂第一股沦为算力二房东的警示样本。[B]五、战略含义谁在赢谁在裸泳纯软件推理速度不再是护城河。开源 day-0 就能吸收任何厂商优化更快的引擎只是生存底线价值向上硬件所有者和向下平台/应用集成商转移独立快引擎创业公司会走进死胡同。[C]硬件厂商是短期赢家长期被侵蚀。英伟达的 Dynamo 抓住了控制面但引擎公司化本身就在削弱 CUDA 锁定——中立引擎给了 AMD/Intel/ASIC 公平入口。英伟达是在用开源对冲开源。[D]推理云进入并购与被夹击并存期。引擎公司的 managed 产品是推理云的直接竞品但推理云又是引擎的分发渠道——结局大概率是收购或深度绑定不是零和。[D]中国走双轨不用站队。信创场景用华为 MindIE/昇腾自研栈数据不出域开源场景把摩尔线程 MUSA、沐曦 MXMACA 合入 vLLM/SGLang 主线。因为核心是 Apache 2.0fork 自由RadixArk/Inferact 的托管生意在中国市场几乎收不到租。[B]上图中国推理栈双轨策略——信创走 MindIE开源走上游合入用户是短期赢家。开源保持免费、引擎效率还在爬坡未来 12-24 个月推理成本大概率继续下探。风险在长期治理漂移和免费开源变成引流漏斗。[D]六、我的评估先下结论推理引擎的公司化是真的结构趋势不是泡沫但有局部泡沫集中在没有技术护城河的中间层。半年 $2.5 亿种子轮投给两个已部署在 40 万 GPU 上的引擎背后是真实的 token 需求和真实的 GPU 浪费——CMU 那个 65% 推理空转的数据才是这轮融资的锚。[B]我判断未来 12 个月有三个观察点第一Inferact/RadixArk 的托管产品定价是否开始割裂开源社区——一旦出现开源版功能落后企业版两代公司化的信任就会崩盘第二Dynamo 会不会成为事实上的推理控制面标准——如果 AWS/Azure 都默认 Dynamo 编排引擎公司就永远是内核供应商第三中国市场会不会出现真正的 fork 分支。[D]我原以为免费午餐终结会以 License 大戏收场像当年 Redis/Elastic研究完才发现这轮公司化没改 License改的是治理和人才。这是更隐蔽的收编代码开放如故但路线图的话语权、基准测试的中立性、核心维护者的钱包都悄悄换了主人。开源没有被杀死它被聘用了。[D]被打脸的风险同样真实如果 Dynamo 真的通吃控制面RadixArk/Inferact 会缩水成给英伟达打工的工程团队反过来如果托管需求爆发$250M 种子只是开头。目前最确定的是引擎层这个过去免费的中立地带已经变成资本和芯片巨头争夺的战场——免费午餐不一定结束但菜单已经换了。[D]参考来源RadixArk 官宣 $100M 种子轮Businesswire, 2026-05-05Inferact $150M 种子轮TechCrunch, 2026-01-22NVIDIA Dynamo 1.0 生产就绪NVIDIA 官方vLLM V1 引擎架构vLLM 官方博客SGLang / RadixAttentionNeurIPS 2024, arXiv:2312.07104机器之心SGLang 团队创立 RadixArk2026-05-0836氪「榨」出硅的极限GPU 利用率危机DeepSeek V4-Flash 105 倍价差EDGEN硅基流动港股 IPO负毛利质疑创业邦知乎如何看 vLLM 和 SGLang 团队纷纷创业摩尔线程 MUSA 合入 vLLM/SGLang 主线Yesky/WAICTogether AI $800M $83 亿Wedbush/businesswireAI 辅助深度研究人工视角解读。每日更新。