CUDA（Compute Unified Device Architecture）是NVIDIA推出的一種并行計(jì)算平臺(tái)和編程模型，用于利用GPU的強(qiáng)大計(jì)算能力。以下是在不同操作系統(tǒng)上搭建CUDA開(kāi)發(fā)環(huán)境的詳細(xì)步驟：

一、準(zhǔn)備工作

1. 檢查GPU兼容性

• 訪問(wèn)NVIDIA官網(wǎng)，確認(rèn)你的GPU支持CUDA（通常GeForce 8系列及以上、Quadro、Tesla等專業(yè)卡都支持）

• 記錄GPU型號(hào)，后續(xù)安裝驅(qū)動(dòng)時(shí)需要

2. 檢查系統(tǒng)要求

• 操作系統(tǒng)：Windows 10/11、Linux（Ubuntu、CentOS等）、macOS（僅支持到CUDA 11.7）

• 至少8GB RAM（推薦16GB以上）

• 預(yù)留至少10GB磁盤(pán)空間

二、安裝NVIDIA驅(qū)動(dòng)

1. 獲取最新驅(qū)動(dòng)

• 訪問(wèn)NVIDIA驅(qū)動(dòng)下載頁(yè)面：https://www.nvidia.com/Download/index.aspx

• 選擇對(duì)應(yīng)GPU型號(hào)、操作系統(tǒng)版本，下載最新穩(wěn)定版驅(qū)動(dòng)

2. 安裝驅(qū)動(dòng)

• Windows：雙擊安裝程序，按提示完成安裝（需重啟）

• Linux：

• 禁用nouveau驅(qū)動(dòng)（開(kāi)源驅(qū)動(dòng)，會(huì)與NVIDIA驅(qū)動(dòng)沖突）

     sudo vim /etc/modprobe.d/blacklist-nouveau.conf
     # 添加以下內(nèi)容
     blacklist nouveau
     options nouveau modeset=0
     # 保存后更新initramfs
     sudo update-initramfs -u
     # 重啟系統(tǒng)
     sudo reboot

• 進(jìn)入tty模式（Ctrl+Alt+F1），停止圖形界面

     sudo systemctl stop lightdm  # Ubuntu/Debian
     sudo systemctl stop gdm      # Fedora/CentOS

• 運(yùn)行驅(qū)動(dòng)安裝程序

     chmod +x NVIDIA-Linux-x86_64-*.run
     sudo ./NVIDIA-Linux-x86_64-*.run

• 安裝完成后重啟系統(tǒng)

3. 驗(yàn)證驅(qū)動(dòng)安裝

nvidia-smi
# 應(yīng)顯示GPU信息、驅(qū)動(dòng)版本等

三、安裝CUDA Toolkit

1. 下載CUDA Toolkit

• 訪問(wèn)NVIDIA CUDA下載頁(yè)面：https://developer.nvidia.com/cuda-downloads
• 選擇操作系統(tǒng)、架構(gòu)、版本等信息
• 推薦下載最新穩(wěn)定版（如CUDA 12.x）

2. 安裝CUDA Toolkit

• Windows：運(yùn)行下載的安裝程序，選擇自定義安裝（可取消勾選Visual Studio集成）
• Linux：
• 以.run文件為例：

     chmod +x cuda_*.run
     sudo ./cuda_*.run --silent --toolkit --samples --toolkitpath=/usr/local/cuda

• 或使用包管理器安裝（以Ubuntu為例）：

     wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin
     sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
     wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda-repo-ubuntu2004-12-2-local_12.2.0-535.54.03-1_amd64.deb
     sudo dpkg -i cuda-repo-ubuntu2004-12-2-local_12.2.0-535.54.03-1_amd64.deb
     sudo cp /var/cuda-repo-ubuntu2004-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
     sudo apt-get update
     sudo apt-get -y install cuda

3. 配置環(huán)境變量

• Windows：安裝程序會(huì)自動(dòng)配置
• Linux：

     # 編輯 /.bashrc或 /.zshrc
     echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
     echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
     source ~/.bashrc

. 驗(yàn)證CUDA安裝

nvcc --version
# 應(yīng)顯示CUDA版本信息# 編譯并運(yùn)行示例
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
make
./deviceQuery
# 應(yīng)顯示GPU信息和CUDA支持情況

四、安裝cuDNN（深度學(xué)習(xí)加速庫(kù)）

1. 注冊(cè)NVIDIA開(kāi)發(fā)者賬號(hào)

• 訪問(wèn)：https://developer.nvidia.com/
• 注冊(cè)并登錄賬號(hào)

2. 下載cuDNN

• 訪問(wèn)：https://developer.nvidia.com/cudnn
• 選擇與CUDA版本匹配的cuDNN版本
• 下載對(duì)應(yīng)操作系統(tǒng)的庫(kù)文件（通常是壓縮包）

3. 安裝cuDNN

• Windows：
• 解壓下載的文件
• 將bin、include、lib目錄中的文件復(fù)制到CUDA安裝目錄對(duì)應(yīng)的文件夾中
• Linux：

     # 解壓下載的文件
     tar -xzvf cudnn-*.tgz
     # 復(fù)制文件到CUDA目錄
     sudo cp cuda/include/cudnn*.h /usr/local/cuda/include
     sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
     sudo chmod a+r /usr/local/cuda/include/cudnn .h /usr/local/cuda/lib64/libcudnn 

五、安裝CUDA相關(guān)庫(kù)和工具

1. 安裝NCCL（多GPU通信庫(kù)）

# Ubuntu/Debian
sudo apt-get install libnccl2 libnccl-dev# 或從源碼安裝

2. 安裝TensorRT（高性能推理庫(kù)）

• 訪問(wèn)：https://developer.nvidia.com/tensorrt
• 下載并安裝適合你的CUDA版本的TensorRT

六、測(cè)試環(huán)境

1. 編譯并運(yùn)行CUDA示例

# 編譯向量加法示例
cd /usr/local/cuda/samples/1_Utilities/vectorAdd
make
./vectorAdd
# 應(yīng)顯示計(jì)算結(jié)果和性能統(tǒng)計(jì)

2. 使用PyTorch或TensorFlow測(cè)試GPU支持

# PyTorch
import torch
print(torch.cuda.is_available())  # 應(yīng)返回True
print(torch.cuda.device_count())  # 應(yīng)返回GPU數(shù)量# TensorFlow
import tensorflow as tf
print(tf.test.is_gpu_available())  # 應(yīng)返回True

七、常見(jiàn)問(wèn)題及解決方法

1. 驅(qū)動(dòng)與CUDA版本不兼容

• 檢查NVIDIA官網(wǎng)的CUDA兼容性矩陣
• 升級(jí)/降級(jí)驅(qū)動(dòng)或CUDA版本

2. Linux安裝驅(qū)動(dòng)后黑屏

• 進(jìn)入tty模式，卸載驅(qū)動(dòng)重新安裝
• 檢查nouveau是否已禁用

3. 環(huán)境變量未生效

• 確認(rèn)路徑正確
• 使用`echo $PATH`檢查變量是否正確設(shè)置
• 嘗試重啟終端或系統(tǒng)

4. cuDNN安裝問(wèn)題

• 確認(rèn)cuDNN版本與CUDA版本匹配
• 檢查文件權(quán)限是否正確

?