【pytorch】固定(freeze)住部分网络

https://blog.csdn.net/jningwei/article/details/120300014

如果使用过了FSDP架构，需要使用pytorch2.0以上的版本。

use_orig_params=true
ignored_parameters=[param for param in model.parameters() if not param.requires_grad] # 如果是2.1.0以上版本，使用ignored_states

https://github.com/pytorch/pytorch/issues/104690

https://pytorch.org/docs/stable/fsdp.html