GLM 5.2 来袭:开源权重模型或致 AI 推理利润崩塌,成本最多降 50%!

📅 2026/7/8 14:26:13
GLM 5.2 来袭:开源权重模型或致 AI 推理利润崩塌,成本最多降 50%!
真正的 DeepSeek 时刻已至仿佛是几十年前市场对 DeepSeek 的 R1 模型反应负面。当时认为底层 V3 模型据传训练成本不到 600 万美元模型训练巨额资本支出时代结束英伟达等公司股价一夜暴跌。当然这误解了 AI 成本实际所在。训练需大量资本支出但它是固定前期成本。花费数亿美元训练一个模型然后就“完成”了。而推理成本会随需求增加有真正边际成本。过去一年左右曾详细探讨过这个问题。主流观点认为 API 提供商收取的费用就是“实际成本”这是错误的。实际上Anthropic/OpenAI 为推理服务收取每千令牌 25 美元费用时据估算计算成本与标价间毛利率可能高达 90%比例可能略高或略低OpenAI 泄露财务数据显示营收毛利率约 60%但包含技术支持、支付处理等其他成本。前沿 AI 实验室商业模式是投入大量资金“训练”模型通过大量高利润“推理”服务分摊成本。若能通过足够多推理服务分摊成本就能从成本角度实现真正盈利。GLM 5.2过去几周一直在测试 Z.ai 公司的 GLM 5.2 模型。认为它是首个达到与 Opus 和 GPT 真正竞争水平的开源权重模型撰写本文时GPT 最新版本是 5.5未来模型会超越。它非常出色很难区分它和日常使用的 Opus 模型。发现它运行“缓慢”因为要进行大量“思考”。对于非交互式自动化任务如后台审查代码拉取请求这不是问题但对于交互式使用它太慢难以保持注意力也降低了成本效益思考越多使用令牌越多成本增加。此外它不支持视觉功能。对视觉功能的态度从最初因准确性差不想使用到 Opus 4.7 引入高分辨率视觉功能后变得经常使用。无法读取基于图像的 PDF、截图和设计文件令人沮丧。相信他们在开发多模态功能模型但与前沿实验室模型相比这是明显劣势。其次缺乏或差劲的网络搜索功能成了障碍。几乎每个自动化会话都需大量网络搜索查找信息。Z.ai 提供的替代网络搜索 MCP 效果差、速度慢。Fireworks 根本没提供网络搜索功能虽表示会改进产品但认为他们目前没相关计划拭目以待。通过让代理使用基于命令行界面的网络搜索工具如 ddgr部分解决了问题但这仍是明显弱点。看好第三方网络搜索 API 潜力这是开源权重模型提供商服务的巨大缺口强大网络搜索功能对许多自动化任务“必不可少”。不过随着时间推移这个问题会解决因为很多人在构建网络搜索索引只需建立合适合作关系和技术架构。无缝替代的潜力对前沿实验室来说令人担忧的是迁移到开源权重模型很“容易”。Z.ai 和 Fireworks 都提供与 OpenAI 和 Anthropic 兼容的端点这让在 Claude Code 和 Codex 中使用这些模型轻而易举。只需将基础 URL 设置为指向推理服务提供商提供 API 密钥指定使用 GLM 5.2 即可。鉴于 Anthropic 宣布随后撤回对 claude -p 非交互式自动化使用收取 API 费用会发现很多此类使用场景可用 GLM 替代。对于交互式使用除缺乏视觉功能和速度稍慢外几乎察觉不到使用的不是 Opus 和 Claude Code。这不像微软或 Salesforce 的锁定模式无需花费数年规划迁移。切换成本极低且与跟上前沿实验室模型频繁的政策和条款变更相比成本更低。虽然 Claude Code 可能增加使用第三方提供商的难度但市场上有很多优秀开源选项如 Codex 本身和 OpenCode 等。企业用户担忧数据隐私和安全问题。使用 Z.ai 的官方 API 和订阅服务几乎不可行因为其条款薄弱且与中国大陆有深度关联。但开源权重“开放”市场上有很多其他提供商很多有完善合同条款。若还不够可自行搭建本地部署环境处理敏感数据实现与 Opus 质量相当的自动化工作流程。成本节约GLM 5.2 现行价格约为每千令牌 4.40 美元不到 Opus 零售价的 20%约为 GPT 5.5 成本的 15%。当然因它完成特定任务时使用更多令牌这不是完全公平的比较。但相信对几乎所有工作流程质量相当的情况下它的成本至少能降低 50%。在订阅服务方面Z.ai 提供“编码计划”订阅类似 Anthropic 和 OpenAI 的计划但声称有更高使用限制。预计对大多数专业用户其在训练和数据保留方面宽松的条款会使该服务难以推广。但如果前沿实验室大幅提高价格对注重预算的用户来说这可能是可行选择。预计未来几个月对服务栈进一步优化GLM 5.2 的成本会大幅下降。Wafer 介绍了他们在 AMD 硬件上运行该模型的努力表示在 AMD 硬件上进行推理的成本比英伟达 Blackwell 低 2.75 倍。第二部分将探讨推理利润崩塌对行业的实际影响以及哪些企业可能会受益或受损。请记住贝索斯那句“你的利润就是我的机会”。若希望文章发布时第一时间收到通知可订阅时事通讯或获取 RSS 源。披露Fireworks 为提供免费额度用于测试 GLM 模型以撰写本文。