本文由 PowerShell 中文社区团队整理内容来自 NVIDIA B300 / H200 / H100 等整机验收与长稳压测项目的现场交付记录。作者邓鹏PowerShell 中文社区创始人深圳市研创信息科技有限公司 CTO51CTO 认证讲师长期从事 AI 算力服务器验收、NVLink 互联验证与 7×24 长稳压力测试。文中参数为公开规格参考实测数值请以同批次健康机为基线落地时仍需结合机房供电、散热条件与验收标准评估。目录一、验收比压测更严格三个真实现场二、主流高端 AI 算力平台对比与列示2.1 规格对比总表2.2 分组解读四类平台的不同验收重心三、验收前的四项准备四、六阶段验收流程与判据五、12 条验收现场注意事项六、争议与责任划分验收单到底在保护谁七、验收报告模板八、结语一、验收比压测更严格三个真实现场压力测试是手段验收是目的。两者的差别在于压测只需要跑出数据验收还需要数据能签字。签字意味着责任转移——从这一刻起设备状态由使用方承担。三个我们亲历的现场说明了为什么验收标准不能松现场一8 卡全在但有一条 NVLink 只跑了一半速率。设备到货通电nvidia-smi显示 8 张卡全部正常验收当天签字。两周后分布式训练上量AllReduce 性能只有预期的一半nccl-tests一跑才发现某两条卡对的 P2P 带宽明显偏低。追溯时厂商答复交付时nvidia-smi正常但nvidia-smi本身并不检查链路速率——这一项从来不在默认检查范围里。现场二单机 IB 测试全绿跨机带宽腰斩。交换机某个端口协商降速单机自测自己 ping 自己、自己打自己永远发现不了。直到多机训练任务开始 hang才用两机对接测出问题。这类故障在所有 AI 集群交付里占比很高因为跨机满带宽长时间这个条件最容易漏。现场三第七天凌晨掉电。前六天长稳一切正常第七天机柜整体掉电。查 BMC SEL 日志发现是电源冗余配置与机柜供电容量不匹配GPU 满载瞬间的浪涌把整柜拉闸。这个问题在开箱验收阶段完全看不出来只能靠整机满负载 供电容量核算提前排除。这三个现场的共性问题都不在设备是否通电层面而在负载是否达到真实工况层面。验收的价值就是把负载推到真实工况然后看数据说话。二、主流高端 AI 算力平台对比与列示2.1 规格对比总表下表为公开规格参考用于确定验收基线量级不同厂商整机配置、功耗策略差异较大实际以到货机型规格书为准型号架构显存显存带宽互联带宽单卡功耗主要定位NVIDIA B300Blackwell UltraBlackwell Ultra288GB HBM3e约 8TB/sNVLink 5约 1.8TB/s约 1400W超大模型训练/推理机架级 GB300 NVL72 方案NVIDIA B200Blackwell192GB HBM3e约 8TB/sNVLink 5约 1.8TB/s约 1000W新一代训练主力GB200 NVL72 机架方案NVIDIA H200 SXMHopper141GB HBM3e约 4.8TB/sNVLink 4900GB/s700W大模型训练与高吞吐推理NVIDIA H100 SXMHopper80GB HBM3约 3.35TB/sNVLink 4900GB/s700W存量最大的训练卡生态最成熟NVIDIA GH200Grace Hopper96GB HBM3 480GB LPDDR5X约 4TB/sNVLink-C2C 900GB/s约 1000W异构统一内存推荐/图计算场景NVIDIA A100 SXMAmpere80GB HBM2e约 2TB/sNVLink 3600GB/s400W存量主力推理与中小规模训练NVIDIA A800 / H800Ampere / Hopper80GB同对应型号NVLink 约 400GB/s规格裁剪400W / 700W特定市场的互联裁剪版本验收必须核对互联带宽AMD Instinct MI300XCDNA 3192GB HBM3约 5.3TB/sInfinity Fabric约 750WROCm 生态训练/推理华为昇腾 910B达芬奇64GB HBM公开资料有限HCCS 互联约 400W国产算力信创场景整机集成侧浪潮 NF5688 系列、超聚变 FusionServer G 系列、Supermicro SYS 系列、Dell PowerEdge XE 系列、新华三等厂商均提供 4 卡/8 卡 HGX 机型方法论通用差异集中在 BIOS/BMC 功耗策略、散热方案风冷/液冷与网络拓扑。2.2 分组解读四类平台的不同验收重心第一类机架级超大规模方案GB300 NVL72 / GB200 NVL72这类方案不是一台服务器而是一个机柜 一个计算单元72 张 GPU 通过 NVSwitch 全互联。验收重心从单机转向机架NVSwitch 全互联的带宽一致性不是点对点而是任意卡对之间液冷系统的流量、压力、快接头状态与漏液检测告警联动整柜功耗与配电容量核算这是最容易出问题的环节机架级 RDMA 网络与 NCCL 大规模集合通信72 卡规模的 AllReduce 需要专门的拓扑验证。第二类8 卡 HGX 训练机型B300 / B200 / H200 / H100当前交付量最大的一类也是本文六阶段流程的主要对象。共同重心单卡满载稳定性、NVLink P2P 带宽矩阵、700W~1400W 功耗墙下的散热能力。型号越新功耗密度越高散热验证的权重要相应加大。第三类存量卡A100 / A800 / H800新机交付少但大量仍在服役更多出现在扩容混插和二手/翻新设备入库场景。验收重心转向显存 ECC 错误历史计数、风扇与散热器老化转速是否还能拉满、NVLink 链路协商状态。混插场景还要额外确认固件版本一致性和 NCCL 拓扑兼容性。第四类国产与异构方案昇腾 910B / MI300X工具链不同npu-smi、rocm-smi但验收逻辑一致满载温度、互联带宽、长稳一致性、驱动与框架版本匹配。这类方案特别要注意软件栈版本矩阵——CANN 或 ROCm 版本与训练框架的对应关系验收时必须写入报告否则后续升级会踩坑。三、验收前的四项准备3.1 一致基线把出厂状态固化下来逐卡记录序列号、VBIOS 版本、GPU 固件记录 BMC/iDRAC 版本与 SEL 日志起点建议清空后重新计数记录网卡固件、交换机端口配置与线缆编号统一驱动/CUDA/NCCL 版本验收期间禁止任何变更。这一套基线是后续所有争议的唯一判据。没有基线设备交付时是好的这句话你无法反驳。3.2 环境准备三个容易被忽略的前提机柜供电容量核算按整机满载功耗 × 台数 × 1.2 冗余系数核算确认 PDU 与上级配电不成为瓶颈进风温度确认机房冷通道温度在设计范围内一般 18~27℃否则后续所有温度数据都不可比网络链路确认 IB/RoCE 交换机端口速率、光模块型号与线缆一致性跨机测试的对端机器提前就位。3.3 监控先行DCGM Exporter Prometheus Grafana 必须在压测开始前跑起来同时接入 BMC 的电源、风扇、进风温度数据。没有时序数据的验收等于没验收。3.4 验收标准前置成文在设备到货前就与厂商/集成商书面确认判定通过的阈值是什么温度上限、ECC 是否零容忍、NCCL 带宽下限、长稳时长。避免出现跑完了再讨论算不算合格的被动局面。四、六阶段验收流程与判据① 到货检查 → ② DCGM 深度诊断 → ③ 逐卡满载与显存压测 → ④ 互联与网络验证 → ⑤ 整机联合负载 → ⑥ 7×24 长稳 → 验收报告阶段核心命令/方法通过判据① 到货检查装箱单核对、外观检查、SEL 起点记录无渗漏、无划伤、配置与合同一致② 深度诊断dcgmi diag -r 3无 FAIL 项耗时 2~4 小时③ 逐卡满载gpu_burn逐卡 10 分钟 nvidia-smi dmon温度进入平台期、无 HW/SW Thermal Slowdown、ECC 无异常增长④ 互联验证nvbandwidth、p2pBandwidthLatencyTest、nccl-tests、ib_write_bwP2P 无离群卡对同组偏差 15%、AllReduce bus bandwidth 达标、跨机 IB 满速率⑤ 整机联合stress-ngfio GPU 满载同步双满载温度不越限、无掉电、无 OOS⑥ 长稳训练/推理业务负载 72h~7d无 hang、无 NCCL timeout、吞吐无衰减、指标曲线平稳关键命令示例# 阶段②官方深度诊断dcgmi diag-r3# 阶段③逐卡烤机依次换 CUDA_VISIBLE_DEVICESCUDA_VISIBLE_DEVICES0./gpu_burn600nvidia-smi dmon-spucvmet-d5-oTDcard0_monitor.log# 阶段④互联三件套nvbandwidth-tdevice_to_device_memcpy_read ./build/all_reduce_perf-b8G-e8G-g8ib_write_bw-dmlx5_0--report_gbits-R五、12 条验收现场注意事项这一节是全文最值得收藏的部分每一条都来自现场踩过的坑。1. 不要先升级驱动。用到货自带版本跑完基线再评估升级。新驱动配新 CUDA、新 NCCL 的组合问题在 Blackwell 平台上并不少见一旦升级后出现异常责任立刻变得模糊。2. GPU 必须逐卡压不能 8 卡一起跑。混跑会把单卡问题稀释在平均值里。8 卡平均温度 78℃ 听起来很正常实际可能是 7 张 76℃、1 张 92℃。3. 温度看平台期不看瞬时峰值。健康卡满载 10~15 分钟进入温度平台波动应在 3℃ 内。仍在缓慢爬升的先查散热器安装与导风罩方向不要急着怀疑 GPU 本身。4. ECC 看趋势不看单次绝对值。少量可纠正错误不一定致命但压测前后计数增长过快就是 HBM 颗粒隐患的前兆。double-bit 错误零容忍出现即报修。5. 带宽要画成矩阵不能只看平均值。8×8 的 P2P 带宽做成热力图一条离群链路比平均带宽不达标更有诊断价值也更难被厂商以整体达标为由驳回。6. 网络测试必须跨机、满端口、长时间。单机自测发现不了交换机端口降速和光模块问题。这一条是 AI 集群验收里最高频的翻车点。7. 集合通信要跑到实际规模。8 卡验收用 8 卡规模跑 NCCL机架级方案要跑到 72 卡规模。用小规模数据推断大规模表现在 NVSwitch 拓扑下是不成立的。8. 液冷机型单独验证不能套用风冷经验。冷却液流量、供回水温度、快接头密封、漏液检测告警联动四项缺一不可。风冷经验直接搬到液冷机架是近几年新交付场景里最大的一类事故来源。9. 整机联合负载不可省。GPU 独烤通过不代表整机没问题。CPU 满载后抢电、内存带宽争用、NVMe 写满缓存这些问题只在联合负载下暴露。10. 功耗与配电要双向核对。既看 GPU 是否达到功耗墙长期只有 70% 以下说明在异常降频也看整机功耗是否超出机柜配电预算。两者方向相反都要看。11. 时序数据必须留档保留期覆盖整个质保期。Prometheus 数据、dmon 日志、dcgmi 报告、BMC SEL全部按机器序列号归档。后续任何一次故障争议这份数据是唯一能自证的东西。12. 验收单上的每一行都要有数据支撑。写运行正常而没有对应截图和日志的条目等于没测。签字前逐项核对这条结论的数据在哪六、争议与责任划分验收单到底在保护谁现场最常见的三类争议以及验收阶段可以做的预防争议类型典型话术预防动作性能不达标“设备交付时是正常的是你们业务负载问题”交付前跑同批次基线并双方签字确认带宽/温度阈值写入验收单硬件故障“这是运输或使用造成的损坏”到货当日拍照留证、SEL 日志起点记录、开箱验收单双方确认责任期扯皮“已经过了保修期”明确质保起算日到货日 or 验收通过日写入合同附件核心原则一句话验收不是走流程是把设备状态从一个模糊描述变成一组可追溯的数据。数据在谁手里话语权就在谁手里。七、验收报告模板章节必备内容设备信息机型、序列号、GPU 数量与序列号、固件版本清单基线对比同批次健康机基线值 vs 本机实测值单卡数据逐卡满载温度曲线、功耗、降频事件、ECC 计数互联数据NVLink 拓扑图 P2P 带宽热力图 NCCL bus bandwidth网络数据跨机 IB 带宽、时延、丢包计数长稳记录72h~7d 温度/功耗/吞吐时序曲线异常清单现象、处置动作、复测结论、责任归属结论与签字通过/有条件通过/不通过双方签字日期有条件通过的项必须写明整改内容 复测时间 未整改的后果承担方否则等于默认豁免。八、结语高端 AI 服务器的验收本质上是一次用数据换确定性的交易你付出几天时间换来的是未来三年出事时手里有据可依。一条经验总结送给大家所有高价值、低容错的交付胜负在动手之前就已经定了——基线够不够全标准够不够硬数据留没留档。关于作者 / 出品本文由 PowerShell 中文社区团队推出。作者邓鹏PowerShell 中文社区创始人深圳市研创信息科技有限公司 CTO西安交通大学计算机专业毕业51CTO 认证讲师2021 年度十大新锐讲师。社区团队承接企业底层 IT 基础设施的技术服务主要包括AD 域控的新建部署、跨林迁移、域名更换、跨境 RODC 部署、域故障修复与账号权限治理Exchange 邮件系统的版本升级迁移、数据库恢复、传输与安全排障VMware 平台迁移与 Citrix CVAD 云桌面部署、性能调优XSKY、华为、浪潮、深信服等分布式存储的故障定位与服务器 RAID 数据恢复NVIDIA B300 / H100 算力服务器的整机验收、NVLink 互联验证与 7×24 长稳压力测试。同时提供系统迁移、内网安全加固、信创适配、PowerShell 自动化脚本定制与运维实战培训。服务按先评估、后动手的流程推进前期完成现状调研与风险评估交付环境健康检查报告、实施方案与完整回滚预案实施后提供验收文档生产环境的高危变更一律在备份与回滚方案确认后执行。技术服务不含硬件设备采购。完整版《NVIDIA B300 Blackwell 服务器验收与压力测试》标准化方案及验收报告模板可在 PowerShell 中文社区官网查阅www.powershell.com.cn本文首发于 CSDN由 PowerShell 中文社区团队出品转载请注明作者邓鹏与出处。