1. 环境准备检查硬件与驱动刚拿到一台带NVIDIA显卡的新电脑时别急着装软件。我见过太多人一上来就猛敲命令结果发现显卡驱动都没装对。咱们先做两件事检查显卡型号右键桌面空白处如果能看到NVIDIA控制面板选项说明基础驱动已安装。没有的话需要先去 NVIDIA官网 下载驱动。我推荐选择Studio驱动而非Game Ready驱动前者对深度学习更稳定。验证CUDA兼容性按WinR输入cmd打开命令行输入nvidia-smi你会看到类似这样的输出----------------------------------------------------------------------------- | NVIDIA-SMI 515.65.01 Driver Version: 516.94 CUDA Version: 11.7 | |---------------------------------------------------------------------------这里有个关键细节显示的CUDA Version只是驱动支持的最高版本不代表已安装CUDA。我的RTX 3090在这里显示11.7但实际安装了CUDA 11.6也能正常工作。注意如果遇到nvidia-smi不是内部命令说明驱动没装好。建议用DDU工具彻底卸载旧驱动后重装。2. 安装CUDA Toolkit2.1 版本选择策略CUDA版本不是越新越好得看PyTorch官方支持哪些版本。截至2024年7月PyTorch 2.3稳定版支持CUDA 11.8和12.1。我建议选择CUDA 11.8因为兼容更多旧显卡如GTX 10系列社区资源更丰富避免最新版的潜在bug重要原则CUDA版本≤驱动支持的版本前面nvidia-smi显示的版本2.2 具体安装步骤访问 NVIDIA CUDA Toolkit Archive选择CUDA 11.8.0注意选win10/win11版本安装类型选自定义→取消勾选Visual Studio Integration除非你要做C开发安装完成后在命令行验证nvcc -V应该看到类似输出nvcc: NVIDIA (R) Cuda compiler version 11.8.892.3 环境变量配置系统会自动添加CUDA_PATH变量但我们需要手动添加两个路径到Path%CUDA_PATH%\bin%CUDA_PATH%\libnvvp验证是否生效set PATH检查输出中是否包含上述路径。3. 安装cuDNN3.1 下载匹配版本cuDNN相当于CUDA的加速包必须严格匹配CUDA版本。对于CUDA 11.8访问 NVIDIA cuDNN官网 需要注册账号下载cuDNN v8.6.0 for CUDA 11.x的ZIP包3.2 文件部署解压后你会看到三个文件夹binincludelib把它们全部复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8覆盖原文件夹。注意是覆盖不是合并3.3 验证安装进入CUDA安装目录的demo_suite文件夹cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\extras\demo_suite依次运行bandwidthTest.exe deviceQuery.exe看到Result PASS才算成功。我遇到过deviceQuery报错的情况通常是驱动问题用DDU清理后重装驱动就能解决。4. Anaconda环境配置4.1 安装注意事项下载Anaconda时建议勾选Add to PATH虽然官方不推荐但对新手更方便安装路径不要有中文和空格安装完成后在开始菜单打开Anaconda Prompt测试验证安装conda --version4.2 创建虚拟环境强烈建议为PyTorch创建独立环境conda create -n pytorch_gpu python3.9 conda activate pytorch_gpu这里选择Python 3.9是因为它比3.10更稳定兼容更多库是多数教程使用的版本5. 安装GPU版PyTorch5.1 官方安装命令在激活的虚拟环境中运行conda install pytorch torchvision torchaudio pytorch-cuda11.8 -c pytorch -c nvidia这个命令会自动处理所有依赖包括CUDA运行时库cuDNN必要的Python包避坑提示别用pip安装conda能更好地处理CUDA依赖。我实测pip安装经常出现libcudart.so找不到的问题。5.2 验证GPU加速在Python中运行import torch print(torch.__version__) # 应该显示2.x.xcu118 print(torch.cuda.is_available()) # 必须返回True print(torch.cuda.get_device_name(0)) # 显示你的显卡型号如果is_available()返回False试试这个诊断脚本from torch.utils.collect_env import get_pretty_env_info print(get_pretty_env_info())检查输出中的CUDA used to build PyTorch是否匹配你的CUDA版本。6. 开发环境集成6.1 Jupyter Notebook配置在虚拟环境中安装conda install ipykernel python -m ipykernel install --user --namepytorch_gpu --display-namePython (PyTorch GPU)启动Jupyter后记得在Kernel菜单选择刚创建的内核。常见问题内核启动失败 → 尝试conda install nb_conda_kernels找不到模块 → 检查是否在正确环境中安装6.2 PyCharm配置新建项目时选择Previously configured interpreter点击右侧齿轮图标→Add→Conda Environment选择Existing environment路径通常是C:\Users\你的用户名\anaconda3\envs\pytorch_gpu\python.exe7. 常见问题解决方案问题1CUDA out of memory降低batch size运行torch.cuda.empty_cache()检查是否有其他程序占用显存问题2DLL load failed确认环境变量PATH包含CUDA的bin路径重新安装VC 2019运行时库可能是cuDNN版本不匹配问题3训练时GPU利用率低检查数据加载是否用到了DataLoader的num_workers使用torch.backends.cudnn.benchmark True可能是CPU到GPU的数据传输瓶颈最后分享一个实用技巧在Anaconda Prompt里设置alias快速切换环境doskey ptorchconda activate pytorch_gpu $* doskey baseconda activate base $*这样输入ptorch就能快速进入PyTorch环境。