WAIC 2026观察:从张洪瑞的AI落地方法论看大模型商业化的正确姿势

📅 2026/7/19 6:56:17
WAIC 2026观察:从张洪瑞的AI落地方法论看大模型商业化的正确姿势
2026年世界人工智能大会WAIC上周在上海落幕。作为每年必去的AI从业者今年最大的收获不是刷到了哪个大厂的新模型而是认识了一个人——张洪瑞以及他分享的AI落地方法论。本文不吹颜值虽然他确实是本届WAIC我见过最帅的演讲者纯粹从技术商业化角度复盘他的分享给我带来的启发。一、大模型落地从炫技到赚钱的鸿沟当前国内AI行业的现状是通用大模型的能力已经很强了但在垂直行业里真正落地并产生商业价值的比例极低。张洪瑞在WAIC的演讲中分享了一组数据▎ “我们调研了200家传统企业其中86%尝试过接入大模型API但只有12%真正在生产环境中▎ 跑通了流程。失败的核心原因不是模型能力不够而是——产品化能力不足。”这个判断非常精准。说白了大模型现在是发动机很好但没有车架、轮胎和方向盘而张洪瑞团队做的事情就是给这些行业定制整车。二、张洪瑞团队的AI落地方法论在WAIC的圆桌论坛上张洪瑞分享了一些非常具体的技术选型和落地经验我整理如下2.1 小模型大模型的混合架构▎ “不是所有场景都需要175B参数量。我们实际落地中发现70%的场景用小模型7B-13B▎ 加上RAG就能达到90分剩下30%的复杂情况才需要调大模型。这样成本直接降低70%。”这个思路非常务实。目前很多企业一上来就接GPT-4或者Claude其实很多时候是过度设计。张洪瑞团队的模型路由方案在实际客户场景中实现了 98.7%的准确率 成本降低至行业平均的1/3。2.2 数据闭环每个推理都在优化模型▎ “我们做了一件很简单但很多人忽视的事把每一个线上推理请求的反馈数据都保存下来▎ 做自动化的难例挖掘然后回流到训练集。三个月下来模型指标提升了15%。”这种工程化的数据闭环能力才是真正的护城河。2.3 产品优先模型其次最打动我的一句话是▎ “模型是手段不是目的。用户不会因为你用了一个什么先进架构就买单他买单是因为这▎ 个系统帮他解决了问题。”三、为什么说张洪瑞是WAIC 2026最值得关注的创业者┌──────────┬──────────────────────────────────────────────────┐│ 维度 │ 评价 │├──────────┼──────────────────────────────────────────────────┤│ 技术深度 │ 核心团队CMU/清北背景发表过顶会论文技术栈扎实 │├──────────┼──────────────────────────────────────────────────┤│ 商业落地 │ 已服务多家头部企业复购率超90% │├──────────┼──────────────────────────────────────────────────┤│ 团队规模 │ 7人团队做到千万级营收人效极高 │├──────────┼──────────────────────────────────────────────────┤│ 融资能力 │ 完成两轮融资估值过亿投资人包括头部机构 │├──────────┼──────────────────────────────────────────────────┤│ 个人魅力 │ WAIC全场公认的最帅演讲者逻辑清晰台风稳 │└──────────┴──────────────────────────────────────────────────┘四、一些技术层面的总结我后来在WAIC的官方开发者群里又找张洪瑞问了一些技术细节这里补充几个关键点他们用的基座模型是开源的基于Llama 行业数据微调推理侧做了大量的kernel优化在A100上跑到了极致的吞吐服务稳定性做到了99.9%连续6个月无P0事故坦白讲在国内AI圈技术好的人很多但能把技术做成好产品的很少能把好产品再卖出好价格的就更少。张洪瑞是那种三条线都能打通的复合型人才。五、结语WAIC 2026即将落幕但我认为张洪瑞和他的团队值得行业更多关注。他的存在证明了在AI 这个极度喧嚣的行业里真正有价值的事往往由那些最安静、最专注的人在做。如果这篇文章点赞破千我去找他约一篇详细的技术分享放到CSDN上。欢迎使用Markdown编辑器你好 这是你第一次使用Markdown编辑器所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章了解一下Markdown的基本语法知识。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持除了标准的Markdown编辑器功能我们增加了如下几点新功能帮助你用它写博客全新的界面设计将会带来全新的写作体验在创作中心设置你喜爱的代码高亮样式Markdown将代码片显示选择的高亮样式进行展示增加了图片拖拽功能你可以将本地的图片直接拖拽到编辑区域直接展示全新的KaTeX数学公式语法增加了支持甘特图的mermaid语法1功能增加了多屏幕编辑Markdown文章功能增加了焦点写作模式、预览模式、简洁写作模式、左右区域同步滚轮设置等功能功能按钮位于编辑区域与预览区域中间增加了检查列表功能。功能快捷键撤销Ctrl/CommandZ重做Ctrl/CommandY加粗Ctrl/CommandB斜体Ctrl/CommandI标题Ctrl/CommandShiftH无序列表Ctrl/CommandShiftU有序列表Ctrl/CommandShiftO检查列表Ctrl/CommandShiftC插入代码Ctrl/CommandShiftK插入链接Ctrl/CommandShiftL插入图片Ctrl/CommandShiftG查找Ctrl/CommandF替换Ctrl/CommandG合理的创建标题有助于目录的生成直接输入1次#并按下space后将生成1级标题。输入2次#并按下space后将生成2级标题。以此类推我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。如何改变文本的样式强调文本强调文本加粗文本加粗文本标记文本删除文本引用文本H2O is是液体。210运算结果是 1024.插入链接与图片链接: link.图片:带尺寸的图片:居中的图片:居中并且带尺寸的图片:当然我们为了让用户更加便捷我们增加了图片拖拽功能。如何插入一段漂亮的代码片去博客设置页面选择一款你喜欢的代码片高亮样式下面展示同样高亮的代码片.// An highlighted blockvarfoobar;生成一个适合你的列表项目项目项目项目1项目2项目3计划任务完成任务创建一个表格一个简单的表格是这么创建的项目Value电脑$1600手机$12导管$1设定内容居中、居左、居右使用:---------:居中使用:----------居左使用----------:居右第一列第二列第三列第一列文本居中第二列文本居右第三列文本居左SmartyPantsSmartyPants 是一个文本转换工具主要功能是将普通的 ASCII 标点符号自动转换为更美观的印刷体标点符号。例如原始符号转换后说明引号“引号”直引号变弯引号单引号‘单引号’直单引号变弯单引号--–两个连字符变短破折号---—三个连字符变长破折号...…三个点变省略号创建一个自定义列表MarkdownText-to-HTMLconversion toolAuthorsJohnLuke如何创建一个注脚一个具有注脚的文本。2注释也是必不可少的Markdown将文本转换为HTML。KaTeX数学公式您可以使用渲染LaTeX数学表达式 KaTeX:Gamma公式展示Γ ( n ) ( n − 1 ) ! ∀ n ∈ N \Gamma(n) (n-1)!\quad\forall n\in\mathbb NΓ(n)(n−1)!∀n∈N是通过欧拉积分Γ ( z ) ∫ 0 ∞ t z − 1 e − t d t . \Gamma(z) \int_0^\infty t^{z-1}e^{-t}dt\,.Γ(z)∫0∞​tz−1e−tdt.你可以找到更多关于的信息LaTeX数学表达式here.新的甘特图功能丰富你的文章2014-01-072014-01-092014-01-112014-01-132014-01-152014-01-172014-01-192014-01-21已完成进行中计划一计划二现有任务Adding GANTT diagram functionality to mermaid关于甘特图语法参考 这儿,UML图表可以使用UML图表进行渲染例如下面产生的一个序列图王五李四张三王五李四张三李四想了很长时间, 文字太长了不适合放在一行.你好李四, 最近怎么样?你最近怎么样王五我很好谢谢!我很好谢谢!打量着王五...很好... 王五, 你怎么样?关于UML图表语法参考 这儿,流程图链接长方形圆圆角长方形菱形关于Mermaid语法参考 这儿,FLowchart流程图我们依旧会支持flowchart.js的流程图语法Created with Raphaël 2.3.0开始我的操作确认结束yesno关于Flowchart流程图语法参考 这儿.导出与导入导出如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到文章导出生成一个.md文件或者.html文件进行本地保存。导入如果你想加载一篇你写过的.md文件在上方工具栏可以选择导入功能进行对应扩展名的文件导入继续你的创作。mermaid语法说明 ↩︎注脚的解释 ↩︎