1. 为什么需要PyTorchGPU环境如果你刚开始接触深度学习可能会疑惑为什么非要折腾GPU。我刚开始用笔记本跑MNIST手写数字识别时CPU跑一个epoch要3分钟换成GPU后只要15秒——这就是20倍的差距当处理ImageNet这种大型数据集时没有GPU的训练就像用自行车送快递。GPU的并行计算能力特别适合矩阵运算。比如处理一张224x224的图片CPU要逐像素计算而GPU的数千个核心可以同时处理。实测在ResNet50模型上RTX 3090比i9-13900K快37倍。不过要注意GPU加速有两大前提你的显卡必须是NVIDIA因为要用CUDA而且PyTorch版本必须与CUDA版本严格匹配。2. 避坑第一步检查显卡和驱动2.1 确认显卡型号按WinR输入dxdiag在显示选项卡可以看到显卡型号。只有NVIDIA显卡支持CUDAAMD显卡需要ROCmPyTorch支持有限。如果是Intel核显建议直接使用云服务。2.2 更新显卡驱动过时的驱动会导致CUDA无法识别显卡。到 NVIDIA官网 下载最新驱动安装后重启。然后在CMD运行nvidia-smi你会看到类似这样的输出----------------------------------------------------------------------------- | NVIDIA-SMI 535.98 Driver Version: 535.98 CUDA Version: 12.2 | |---------------------------------------------------------------------------这里显示的CUDA Version是驱动支持的最高版本不是实际安装的CUDA3. 安装CUDA Toolkit的正确姿势3.1 选择CUDA版本PyTorch官方预编译版本通常只支持特定CUDA版本。以PyTorch 2.3为例CUDA 11.8最稳定兼容CUDA 12.1新显卡性能更好到 NVIDIA CUDA Toolkit Archive 下载对应版本。Windows建议选exe(local)安装包。3.2 自定义安装组件安装时务必展开自定义选项取消Visual Studio Integration除非你用VS勾选CUDA下的Development组件不要安装重复的驱动安装完成后验证nvcc -V如果提示命令不存在需要手动添加C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\bin到系统PATH。4. PyTorch安装的版本陷阱4.1 官网命令的坑PyTorch官网提供的安装命令可能不适合你的环境。比如pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118这个命令会安装CUDA 11.8的PyTorch但如果你的CUDA是12.1应该用cu121。4.2 手动下载whl文件当网络不稳定时建议到 pytorch.org 手动下载根据Python版本选择cp39Python 3.9等根据系统选择win_amd64或linux_x86_64确保torch、torchvision、torchaudio版本匹配例如对于CUDA 11.8Python 3.10Windowstorch-2.3.0cu118-cp310-cp310-win_amd64.whl torchvision-0.18.0cu118-cp310-cp310-win_amd64.whl torchaudio-2.3.0cu118-cp310-cp310-win_amd64.whl5. 环境配置实战演示5.1 创建隔离环境强烈建议使用conda管理环境conda create -n pytorch_gpu python3.10 conda activate pytorch_gpu5.2 离线安装示例假设whl文件已下载到D:\Downloadspip install D:\Downloads\torch-2.3.0cu118-cp310-cp310-win_amd64.whl pip install D:\Downloads\torchvision-0.18.0cu118-cp310-cp310-win_amd64.whl5.3 验证安装运行Python检查import torch print(torch.__version__) # 应显示2.3.0cu118 print(torch.cuda.is_available()) # 必须返回True print(torch.rand(2,3).cuda()) # 测试GPU张量6. 常见问题解决方案6.1 CUDA版本不匹配错误信息AssertionError: The NVIDIA driver on your system is too old.解决方法升级显卡驱动或者安装更低版本的PyTorch/CUDA6.2 网络下载失败尝试使用清华镜像源pip install -i https://pypi.tuna.tsinghua.edu.cn/simple下载时添加参数--default-timeout1000关闭防火墙临时测试6.3 显存不足训练时遇到CUDA out of memory减小batch_size使用torch.cuda.empty_cache()尝试混合精度训练scaler torch.cuda.amp.GradScaler() with torch.amp.autocast(device_typecuda): outputs model(inputs) loss criterion(outputs, labels) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update()7. 终极排查指南当所有方法都失败时运行nvidia-smi查看GPU状态检查环境变量CUDA_HOME是否指向正确路径使用where cudnn64_8.dll确认cuDNN已安装尝试纯净环境新建用户账户测试查看Windows事件查看器中的系统日志我在帮学生调试时发现有次问题竟然是Windows更新导致的。卸载KB5034441补丁后CUDA突然正常工作。所以遇到诡异问题不妨搜索你的CUDA版本 错误代码 操作系统版本。