1. 为什么需要CUDA和cuDNN如果你正在玩深度学习比如用TensorFlow或者PyTorch训练模型肯定会发现用CPU跑起来特别慢。这时候就需要GPU来加速了而CUDA和cuDNN就是让GPU发挥计算能力的关键工具。简单来说CUDA是NVIDIA显卡的计算平台它让程序能够直接调用GPU进行并行计算。而cuDNN是专门为深度学习优化的加速库包含了卷积、池化等常用操作的GPU实现。两者配合使用能让你的模型训练速度提升几十倍甚至上百倍。我在帮朋友配置环境时发现很多人卡在了版本选择这一步。比如有位同学装了CUDA 12.1结果PyTorch最新版只支持到CUDA 11.8导致框架根本识别不到GPU。这种版本不匹配的问题特别常见下面我就详细说说怎么避开这些坑。2. 安装前的准备工作2.1 检查显卡和驱动版本首先确认你的显卡是NVIDIA的AMD显卡不支持CUDA。按WinR输入cmd打开命令行运行nvidia-smi你会看到类似这样的输出----------------------------------------------------------------------------- | NVIDIA-SMI 535.98 Driver Version: 535.98 CUDA Version: 12.2 | |--------------------------------------------------------------------------- | GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | || | 0 NVIDIA GeForce ... WDDM | 00000000:01:00.0 On | N/A | | N/A 45C P8 N/A / N/A | 200MiB / 8192MiB | 0% Default | ---------------------------------------------------------------------------这里有两个关键信息Driver Version535.98你的显卡驱动版本CUDA Version12.2驱动支持的最高CUDA版本注意这里显示的CUDA版本只是驱动支持的最高版本实际可以安装更低的CUDA版本。比如驱动显示支持12.2你仍然可以安装11.8。2.2 确定深度学习框架的版本要求不同框架对CUDA版本的要求不同。以2024年10月为例PyTorch 2.3支持CUDA 11.8/12.1TensorFlow 2.16仅支持CUDA 11.8建议先确定要用的框架版本再去官网查对应的CUDA要求。比如PyTorch的版本对应表在 官网 可以找到。3. 安装CUDA Toolkit3.1 下载CUDA打开 NVIDIA CUDA Toolkit存档页面选择与你的驱动和框架兼容的版本。比如选11.8.0操作系统选Windows架构选x86_64版本选11.8.0安装类型选exe(local)我建议下载离线安装包约2GB避免网络问题导致安装失败。3.2 安装CUDA双击下载的exe文件按以下步骤操作临时解压路径保持默认即可安装完成后会自动删除安装选项选择自定义组件选择如果已经安装了Visual Studio勾选Visual Studio Integration确保CUDA下的Development和Documentation被选中驱动组件如果版本比现有驱动新建议不要勾选避免驱动冲突安装路径建议保持默认C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8等待安装完成约10分钟3.3 验证安装打开新的命令行窗口运行nvcc -V如果看到类似这样的输出说明安装成功nvcc: NVIDIA (R) Cuda compiler release 11.8, V11.8.894. 安装cuDNN4.1 下载cuDNN访问 NVIDIA cuDNN下载页面 需要注册账号选择与CUDA版本匹配的cuDNN。比如CUDA 11.8对应cuDNN 8.7.x下载Local Installer for Windows (Zip)4.2 安装cuDNN解压下载的zip文件会得到三个文件夹binincludelib将这些文件夹复制到CUDA安装目录如C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8合并同名文件夹4.3 验证安装进入CUDA安装目录下的extras\demo_suite运行.\deviceQuery.exe .\bandwidthTest.exe两个命令都应该显示Result PASS。5. 配置深度学习框架5.1 PyTorch安装示例对于CUDA 11.8使用以下命令安装PyTorchpip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118验证GPU是否可用import torch print(torch.cuda.is_available()) # 应该输出True print(torch.version.cuda) # 应该显示11.85.2 TensorFlow安装示例对于CUDA 11.8安装TensorFlow 2.16pip install tensorflow2.16.1验证GPU支持import tensorflow as tf print(tf.config.list_physical_devices(GPU)) # 应该显示GPU信息6. 常见问题解决Q1安装CUDA后nvidia-smi显示的版本与实际安装版本不一致A这是正常现象。nvidia-smi显示的是驱动支持的最高版本不是实际安装的CUDA版本。Q2运行程序时报错Could not load dynamic library cudnn64_8.dll?A这说明cuDNN没有正确安装。检查是否将cuDNN的文件复制到了CUDA安装目录并确保环境变量PATH包含CUDA的bin路径。Q3如何彻底卸载CUDAA通过控制面板卸载所有NVIDIA相关程序然后手动删除C:\Program Files\NVIDIA GPU Computing Toolkit和C:\Program Files\NVIDIA Corporation文件夹。我在帮实验室配置多台深度学习工作站时发现最稳妥的方案是先确定要用的框架版本根据框架要求选择CUDA版本安装对应版本的显卡驱动最后安装cuDNN这样能避免90%的版本兼容性问题。另外建议在安装前创建系统还原点万一出问题可以快速回退。