AI算力越大，通信越值钱：光连接如何成为半导体新赛道

我前阵子在行业群里看到一条消息意法半导体STMicroelectronics在业绩沟通里给了一个相当大胆的判断说未来AI相关收入里预计会有八成左右的比例来自光连接方向。第一眼我也愣了一下一家以MCU、功率器件、传感器见长的老牌IDM怎么把AI收入的宝押在“光”上后来把AI机房当成一张网重新看了一遍这个判断就顺理成章了——算力堆得越大芯片之间的通信就越吃紧连接已经不只是设备而是整套AI基础设施里最值钱的那一段。这篇文章我就从算力和通信的关系、光连接产业链、以及我们自己评估项目时怎么判断带宽瓶颈这几个角度把“为什么算力越大、通信越值钱”这件事掰开揉碎讲清楚。1. STMicro这条预测到底在说什么很多朋友看到“STMicro预计八成AI收入来自光连接”第一反应是那八成八成是多少是不是虚张声势。其实不是意法半导体不是要转型做光纤运营商也不是要去抢光模块整机市场它是在说自己的产品结构里AI带来的增量收入主要会落在光连接相关的半导体芯片上。1.1 先还原一下“八成”的实际含义在数据中心里AI服务器需要处理海量数据尤其是训练和大规模推理场景GPU、AI加速器彼此之间要不停交换参数和中间结果。数据不走CPU主人家的门口而是走高速网络这个网络从机柜内部到机柜之间再到跨数据中心凡是用来传数据的光模块、光引擎、连接器里的半导体器件都可以算进光连接相关收入。ST做的不是终端光模块它主要是做光模块里的收发芯片比如激光驱动器、跨阻抗放大器TIA、时钟数据恢复CDR还有一些功率相关的配套器件。也就是说一个光模块插到交换机或GPU服务器里模块里的“视网膜”和“神经”芯片可能是ST这类上游半导体公司提供的。报道里提到的“八成”是ST对AI业务组合的一种预测不是指整个公司收入也不是说光模块市场八成份额归它而是“AI带来的收入增长中大部分来自和光连接相关的器件”。这个判断说明了什么说明在整个AI硬件链条里算力芯片确实在赚钱但围绕着“怎么把算力喂饱”的通信芯片也在起量而且增速可能比算力本身还猛。光连接不再是“一根光纤的事”而是一整条半导体赛道。1.2 “AI收入”为什么会被光连接“吃掉”一大块拆开看AI相关的半导体需求集中在三条线上算力芯片GPU、TPU、类脑芯片、存储芯片HBM、DDR5、通信芯片SerDes、DSP、光模块电芯片、交换芯片。过去提到AI大家直勾勾盯着算力芯片但一个AI集群真正跑起来通信芯片的数量和单价其实非常可观。举个例子一台八卡GPU服务器如果走的是主流PCIe或NVLink组网每卡对外带宽动辄几百Gbps。机柜内互连、跨机柜Spine交换、跨机房DCI每一段都需要光模块。一个大型训练集群动辄几千上万张GPU按端口数算光模块数量是服务器的数倍。单个模块价格从几百到上万不等越高速越贵这还没算光模块里的DSP芯片、驱动器、TIA和各种无源器件。所以ST说AI收入里八成来自光连接本质上是在讲未来AI硬件投资的边际增量有相当大比例会流向通信环节。算力芯片当然贵但你不可能只买一块GPU就训练大模型你需要把它连成一张网。这张网的成本会随着算力规模上升而暴涨。2. 算力和通信的底层关系带宽正从配角变主角“算力越大、通信越值钱”不是一句口号它背后是一条硬逻辑单个加速器再强如果没有足够的通信能力整个集群的算力利用率会呈断崖式下降。这里最著名的就是木桶效应——整柜GPU的算力是由最慢那条通信链路决定的。2.1 从单机到集群通信从附件变成刚需以前做传统服务器网络接口可能只是为了上传数据、下载模型、同步日志CPU本身的计算不依赖网络网络断了顶多不能远程登录。AI不一样大模型训练天然是分布式任务模型参数分散在多张GPU上每个训练批次结束后所有GPU必须把梯度同步起来再统一更新参数。这个同步动作是强制性的缺一次模型权重就乱了。所以通信不再是“偶尔用一下”而是每一轮训练迭代都绕不开的必经之路。如果通信延迟太高GPU算完一组数据后还得空转等待等着网络把共享信息传回来。说白了高速网络是为了让多余的算力不闲着。实际训练时我们常用数据并行、张量并行、流水线并行每种并行策略都要在不同节点之间交换张量。张量并行尤其狠每个Transformer层的计算都要把激活值切到不同GPU上通信粒度小、频次高稍微慢一点整层计算都在等通信。于是通信性能从“网络工程师关心的问题”变成了“算法工程师也得盯着的指标”。2.2 一次训练任务里通信到底占多少时间不少刚接触AI基础架构的朋友会问通信带宽100G和400G差多少差得非常多。大模型训练有个通用经验值在千卡级集群里训练千亿参数模型通信时间能占到整体迭代时间的20%到40%。如果集群规模再大、模型再长通信占比还可能更高。我做了一次很小的实验在实验室里模拟数据并行训练的通信过程。假设模型参数是70亿采用全量梯度同步每个训练步需要交换约140亿个浮点数参数*2因为梯度Float和优化器状态还要额外算按一个float占4字节那一轮梯度同步至少需要56GB的数据量。如果网络带宽是400Gbps换算成实际传输速率大概45GB/s实际上要考虑协议开销可能只有六成左右那单是梯度同步就要将近1.5秒。这1.5秒是纯额外开销GPU计算本身可能只需要0.5秒。如果不优化通信整个训练步就要2秒算力利用率直接掉到25%。如果带宽翻四倍到1.6T同步时间能压到0.4秒左右训练效率立刻回到70%以上。这个例子很粗糙但道理很直接通信带宽直接决定算力能不能干满。2.3 万卡集群的经典瓶颈卡点我参与过一个中等规模的推理集群扩容项目规模远不到万卡但也有几百张加速卡。扩容前大家只盯着单卡算力买机器时选的是高算力版本但网络选择的还是上一代的100G方案。结果一上线业务方说吞吐上不去显卡利用率只有20%。排查下来问题很清楚因为QPS高、并发请求多模型实例之间要做分布式推理每个请求都可能触发跨节点的KV Cache交换和中间结果聚合。100G的网卡成了瓶颈GPU算得再快数据输不出去也白搭。后来我们把节点间的东西向流量升级到400G并配了对应的光模块和交换机显卡利用率直接翻倍。这次经历让我彻底认可了“算力越大、通信越值钱”的说法——瓶颈永远在水桶最短的那块板子上。3. 为什么偏偏是光连接而不是继续优化铜线很多人会问通信必须用光吗能不能用更粗的铜缆硬上高速答案是可以但走到一定程度电信号会被物理规则按在地上摩擦。光连接在AI时代成为刚需不是营销推出来的是材料物理和功耗经济算出来的。3.1 铜线的高速极限在哪铜缆的优点是便宜、接口成熟、可维护性强短距离直连铜缆DAC在机柜内部仍然广泛使用。但它有两个致命短板距离和功耗。信号频率越高铜导体和介质的损耗越严重超过两三米眼图就塌了想传得更远就得靠均衡技术增强信号这会让收发端的功耗急剧上升。我看过一组对比10米距离上400G铜缆的链路预算非常紧张基本只能用于机柜内部顶多机柜相邻。而光模块可以用单模光纤轻松跑到几百米甚至十公里且速率上升到1.6T后铜缆的密度和散热问题几乎无解。AI集群是典型的“高密度、高带宽、跨设备互联”场景机柜内可以暂时用铜但机柜间和更高层级的汇聚层光连接是明确的最优解。另外“光猫先连接交换机有什么好处”这类搜索词其实也反映了另一层问题很多人把光连接等同于家庭宽带的光猫。实际上数据中心的光连接是另一套体系重点是低延迟、高带宽、高可靠性。光猫连接交换机的好处是减少一层NAT和转换开销数据中心的思路如出一辙能少一次光电转换就少一次延迟。3.2 光模块里到底藏了哪些半导体芯片要理解ST为什么看好光连接完整拆一个800G光模块的BOM物料清单就明白了。光模块不只是简单的激光器和光纤内部包含光发射部分、光接收部分、数字管理部分。光发射部分有激光器比如EML电吸收调制激光器、硅光调制器还需要激光驱动器把数据信号放大到足以驱动激光器的幅度光接收部分有光电探测器PD或APD后面接一个TIA把微弱的电流信号转成电压信号并放大再往后是CDR和DSP负责时钟恢复和信号均衡。一颗400G以上的光模块里DSP芯片的价格可能占模块总成本的三到四成其他模拟前端芯片再占一到两成。这部分正是ST这类IDM的强项也是“AI收入来自光连接”的抓手。你算力网络升级到800G甚至1.6T光模块需求量翻倍每个模块里的电芯片数量和价值量翻倍上游半导体公司自然跟着吃肉。更关键的是光模块速率越高对驱动器和TIA的带宽要求越高芯片工艺门槛和单价也越高这不是单纯的量增是量价齐升。3.3 从400G到800G再到1.6T增长逻辑清晰可见AI光模块的迭代速度非常快。前两年主流量是400G现在新建集群开始切800G1.6T已经在头部云厂商的规划和测试中。每一代速率提升不是把模块做大而是往更高密度、更优功耗里挤。具体到芯片端400G光模块通常用100G/lane的四通道方案800G则可以用100G/lane乘八通道或者200G/lane乘四通道。通道数上升意味着驱动器和TIA的数量线性增长lane速率上升到200G以后对芯片的工艺、封装、测试要求全线提升。换句话说光模块每升一代芯片行业吃到的“通信红利”就厚一分。从整柜功耗也能感受到压力一个800G光模块功耗大约在12到15瓦1.6T可能到20瓦以上。一个机柜几十个模块光通信本身就成了不小的散热负担。芯片厂要做的不仅是让速率上去还要让每比特功耗降下来这就给新工艺、新材料和共封装光学CPO留下了大量空间。4. 通信变值钱之后产业链和从业者都在受什么影响“通信值钱”不是一句宏观判断它会实实在在地改变产业链利润分配也改变技术岗位的技能要求。对普通从业者来说早点看清这个方向不管是选项目、选岗位还是选预算都能少踩一些坑。4.1 光通信产业链上谁最受益整个链条从下游到上游大致是云厂商和数据中心用户 → 光模块/光引擎厂商 → 光芯片和电芯片厂商 → 材料和设备厂商。每个环节的受益程度不一样。光模块整机厂中际旭创、新易盛、Coherent等直接放量800G/1.6T产品利润率高DSP芯片厂博通、Marvell这类在高速模块里卡位极深模拟/混合信号芯片厂ST、Macom、Semtech等提供驱动器和TIA单价值量不如DSP但量很大光纤连接器、PCB、电源管理厂商跟着端口数涨交换机/网卡芯片厂AI集群要配高带宽交换矩阵高端交换芯片订单排期很长。这个链条有个特点谁离“速率升级”越近谁就吃得越久。因为光模块整机可能有价格战但上游芯片是卖铲子的逻辑只要端口数在涨、速率在涨芯片出货量和单价就能同步走高。4.2 通信工程师和嵌入式开发者迎来新机会很多传统通信工程师担心被AI卷掉其实恰恰相反AI集群把通信的门槛拉高了一大截。以前调个路由器、配个VLAN就能过日子现在需要理解RDMA、RoCEv2、Infiniband、拥塞控制、无损以太网这些技能一度是少数高性能计算专家的领域现在成了AI基础设施团队的日常。嵌入式开发者同样有红利。光模块里的MCU、电源管理、信号调理芯片需求量巨大这类工作既懂硬件又懂协议恰好符合ST、Macom这类IDM的人才画像。我自己带过几个做单片机的小伙伴转行做光模块固件他们发现串口通信、SPI、I2C这些老基本功全用得上因为光模块内部也需要配置寄存器、读取温度电压、上报诊断信息。通信协议从明线换成了暗线但底层原理没变。对开发者来说我强烈建议找机会接触一下光模块的I2C或MDIO管理接口学一学怎么读取模块的数字诊断监控信息。这比单纯调串口有意思得多也是理解光通信很好的切入点。4.3 企业采购AI资源时怎么用这套逻辑做预算很多团队采购AI服务器时只盯着显卡把网络预算一再压缩结果是算力利用率很低项目周期拉长最后算总账反而更贵。我的建议是在做资源配置时把通信当成一等公民来规划。默认几个原则训练集群节点间主网络带宽不要低于单卡出口带宽的80%推理集群如果QPS高、模型大优先保证东西向带宽能上RDMA就不要只用普通TCP光模块和网卡可以分阶段扩容但交换机和光缆架构最好一次到位。算力是固定成本通信是持续收益网络架好了后面加算力是线性收益网络拉胯加多少卡都是空转。我见过一个真实的项目为了省十几万网络预算最后多花了上百万租算力来弥补效率损失典型的捡了芝麻丢西瓜。希望看到这篇文章的朋友不要重蹈覆辙。5. 实操心得怎么评估自己的项目是否需要更值钱的通信说了这么多宏观逻辑落到自己项目上该怎么办这里分享一套我实际在用的评估方法不复杂核心就三步算通信量、看通信比例、定网络方案。这个流程对有大模型训练需求的团队特别适用中小团队也能参考。5.1 三步判断法快速定位带宽瓶颈第一步估算单次迭代的通信量。以数据并行为例通信量约等于模型参数量乘以优化器状态系数再乘以梯度同步次数。简单点说70亿参数的模型梯度同步一遍至少几十GBBfloat16精度下按字节数算就行。第二步测一下真实训练里的通信耗时占比。用训练日志里的step时间减去纯计算时间得到通信时间。通信时间占整体20%以下问题不大超过30%说明网络配置已经拖后腿了超过50%那就要认真优化通信策略或升级带宽。第三步按目标和预算选择网络。机柜内短距离可以用高速铜缆顶一顶机柜间一定上光。400G和800G之间做取舍时别只看当下价格要看未来一年模型规模会不会翻倍。光模块可以后期加交换机和结构化布线一定留足升级空间。顺便提醒一句很多人搜“光猫先连接交换机有什么好处”是在家庭或办公网络里想优化连接顺序这个思路是对的。减少光电转换层级、让主路由直接对接光猫能降低延迟。数据中心也是一样能不转就不转能不跳就不跳。5.2 常见认知误区速查表误区实际情况只要算力芯片好性能就高通信带宽不足会严重拖低算力利用率光模块只是“一根光纤”里面包含激光器、驱动、TIA、DSP等多种半导体器件铜缆更便宜能用就用高速率长距离下铜缆功耗和衰减反而更高网络不够等业务上量再升级网络架构改造难度远高于加服务器应提前规划通信技术是传统行业没前途AI集群让通信技术变成高价值核心能力这里面的每一条我都踩过或见证过。尤其是“网络不够再升级”在传统机房里听起来合理但在AI集群里是完全不成立的。因为光网络的布线、交换机的端口形态、甚至机柜的供电散热都受架构约束临时升级等于推倒重来。5.3 实际项目里我踩过的两个坑第一个坑是低估了光模块的功耗和散热。我们在一个旧机房改造项目里加了高速光模块光性能达标了但机柜局部温度直接飙红触发降频结果通信没拖后腿散热开始拖后腿。后来在方案里加了液冷导轨和风扇分流才解决。算力越堆越密的时候散热不是基建问题是性能问题。第二个坑是协议栈选型不匹配。我们一开始用普通TCP传大模型训练梯度结果400G网卡只能跑出100多G的效果因为TCP的拥塞控制和重传机制在大规模同步场景下太吃亏。后来换成RDMA/RoCEv2并调了PFC和ECN参数带宽利用率立刻上来。这个坑给我们的教训是硬件带宽只是上限协议栈决定实际能拿到多少。新版光模块的DSP芯片本身也能做很多链路优化比如CDR恢复、预加重、均衡器调优。调试时不要只盯着光功率还要关注误码率和FEC余量很多“能用但慢”的问题都出在链路余量不足上。结尾聊一点个人体会我做了不少年硬件和网络相关的项目越来越觉得AI这波浪潮里最值钱的不是某一颗芯片而是“把足够多的芯片高效地组织起来”的能力。STMicro那条预测之所以让我印象深是因为它把行业里一个隐性趋势摆上了台面AI收入不再只是算力芯片的天下通信硬件会成为承载价值的重要载体。最后再分享一个小技巧不管是做训练还是做推理都把网络的监控和算力监控放到同一个看板上。算力突然下降时第一反应不光要去看GPU是不是降频还要看网络丢包、流量、重传是不是异常。很多时候问题不在卡上在链路上。先会看通信才能真正懂AI基础设施。