Table of Contents

CUDA环境配置

当然你首先需要有张N卡

Linux

Windows（WSL）

官方文档：CUDA on WSL User Guide https://docs.nvidia.com/cuda/wsl-user-guide/

  1. 首先安装WSL
  2. 然后安装Game Ready的驱动（就在Windows系统下正常安装即可，和WSL没有关系，这就是WSL的好处，驱动安装简单，Linux下装N卡驱动很麻烦）
  3. 之后就可以运行CUDA程序了，如果需要编译CUDA程序，还需要完成下述步骤（To compile new CUDA applications, a CUDA Toolkit for Linux x86 is needed.）
  4. 另外此时可以在WSL下查看是否可以识别到显卡了（nvidia-smi），正常输出如下
p5291@DESKTOP-1217V6I:~$ nvidia-smi
Sat Oct  5 17:38:10 2024
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 560.31.01              Driver Version: 560.81         CUDA Version: 12.6     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 3050 ...    On  |   00000000:01:00.0 Off |                  N/A |
| N/A   44C    P0             12W /   75W |       0MiB /   4096MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+

接下来安装CUDA Toolkit

  1. 打开NVIDIA的CUDA下载页面（https://developer.nvidia.com/cuda-downloads，注意这个地址未来可能会变动，这里的不保证是最新的）
  2. 选择需要的版本，我这里使用的是target_os=Linux&target_arch=x86_64&Distribution=WSL-Ubuntu&target_version=2.0&target_type=deb_network
  3. 选好之后，下面就会列出安装命令，按照命令安装即可（现在从墙里出来了，不用担心网络问题了，执行网络安装最简单）
# 以下的命令只是举例，不保证时效性，安装的时候请参照最新的官方安装说明
wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-6

安装完成后，检查nvcc是否可用

  1. 安装完成后，可能nvcc直接就是可用的状态，这样最好
  2. 如果找不到nvcc，可能是需要配置PATH，以我这里为例，我的CUDA被安装到了/usr/local/cuda-12.6/bin，把这个路径添加到PATH即可（参考Linux的环境变量）
  3. 检查nvcc！
p7742@DESKTOP-1217V6I:~$ nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Thu_Sep_12_02:18:05_PDT_2024
Cuda compilation tools, release 12.6, V12.6.77
Build cuda_12.6.r12.6/compiler.34841621_0

原生Windows