【Bug已解决】Accelerate mixed torch.Tensor and DTensor error when using TE FP8 and FSDP/TP 解决方案
【Bug已解决】Accelerate mixed torch.Tensor and DTensor error when using TE FP8 and FSDP/TP 解决方案
一、现象长什么样
把 NVIDIA TransformerEngine(TE)的 FP8 线性层,塞进 accelerate 的 FSDP / TP(Tensor Par…
2026/8/3 3:57:24