确定显卡支持的CUDA版本
在显卡驱动被正确安装的前提下,在命令行里输入
nvidia-smi.exe
效果如图所示
可以看到显示CUDA Version为12.7,说明该显卡最高支持到12.7,我这里就选择12.6的版本,你也可以选择更低的版本比如 12.5,12.4更低的版本
确定CUDA版本对应的cuDNN版本
在cudnn下载页面,我们cuda是12.6,这里就选择cuDNNV8.9.0版本的for CUDA11.x版本即可
好了三个安装版本都确定好了,现在开始一个个安装就行
安装CUDA
下载安装包,在NVIDIA官方网站即可下载,地址为:https://developer.nvidia.com/cuda-toolkit-archive
注意选择你的操作系统,什么版本的 我是Windows11 需要选择11,离线安装包还是在线安装包,省得麻烦就选择离线安装包了,选择好后,点击下面的Download按钮。
安装包下载好后,双击安装包进行安装
弹出这个,临时抽取文件放置位置的,直接点击ok、随后进入系统兼容性的检查,就是看你是否下错安装包了
没问题后会弹出许可协议
直接点击同意并继续,弹出的安装选项,选择自定义
点击下一步
把CUDA选一下,还需要注意一点,如果 你前面没有安装vs,直接安装的这个,需要把CUDA里面的
Visual Studio Integration取消勾选,否则会安装不成功
需要记住安装的位置,后面需要用到
下一步,开始安装
点击下一步
这里提示了你选择的组件的安装情况,到这就安装好了,点击关闭。
检查是否安装成功
打开cmd,输入
nvcc -V
出现了你安装的CUDA的版本信息,说明安装成功了
安装cuDNN
下载安装包,在NVIDIA官方网站即可下载,地址为:
https://developer.nvidia.com/rdp/cudnn-archive
如没有NVIDIA开发者账号的话,就按照提示注册一个就好,再登录即可下载了。
下载下来是个压缩包,我的是cudnn-windows-x86_64-8.9.7.29_cuda12-archive.zip 直接解压缩,完成后点击去你能看到如下三个文件夹(bin、include、lib)
把这三个文件夹的文件分别拷贝到CUDA安装目录对应的(bin、include、lib)文件夹中即可。CUDA的lib目录有x64 、Win32、cmake三个文件夹,拷到其中的x64这个文件夹中
然后进入该目录下的 extras/demo_suite/ 目录,在终端中依次输入以下命令:
./bandwidthTest
./deviceQuery
若均输出 Result = PASS,说明安装成功:
安装 PyTorch
然后,进入 PyTorch 官网,通过“Get Started -> Start Locally”定位到下载页:
https://pytorch.org/
在这里根据你使用的 Python 环境选择合适的安装方式,网页上会自动生成合适的安装命令。例如我使用 pip 管理我的 Python 环境,安装了 CUDA 12.x,就选择相应的选项。如果你使用 Anaconda 管理你的 Python 环境,你需要选择“Conda”选项。此处我使用以下代码安装:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126