【Bug已解决】TP support for Finetuning using LoRA and other PEFT techniques 解决方案
【Bug已解决】TP support for Finetuning using LoRA and other PEFT techniques 解决方案
一、现象长什么样
Tensor Parallelism(TP,张量并行)把单个大线性层沿维度切到多张卡上,是大模型训练/推理的标配。但当你想用 LoRA&#…
2026/7/25 4:11:38