前言

在使用Docker運行需要GPU加速的AI應(yīng)用時，可能會遇到報錯：
docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]
這是因為缺少 NVIDIA Container Toolkit —— 它是讓容器訪問宿主GPU的關(guān)鍵橋梁。
本文將以Ubuntu 24.04 (Noble Numbat)為例，手把手教你完成完整安裝流程。

---

一、環(huán)境準(zhǔn)備

1.1 驗證驅(qū)動狀態(tài)

nvidia-smi

成功時會顯示類似以下輸出（注意右上角的CUDA版本）

---

二、安裝NVIDIA Container Toolkit

2.1 添加官方倉庫

# 安裝依賴
sudo apt-get update
sudo apt-get install -y curl# 添加密鑰和倉庫
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

2.2 執(zhí)行安裝

sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

---

三、配置Docker運行時

3.1 更新Docker配置

# 生成配置文件
sudo nvidia-ctk runtime configure --runtime=docker# 重啟Docker服務(wù)
sudo systemctl restart docker

---

四、驗證安裝結(jié)果

4.1 運行測試容器

docker run --rm --gpus all nvidia/cuda:12.6.0-base-ubuntu24.04 nvidia-smi

成功時會看到與宿主機相同的GPU信息輸出。

---

五、實戰(zhàn)應(yīng)用

現(xiàn)在可以運行你的GPU容器應(yīng)用了！例如：

docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest

---

技術(shù)總結(jié)：本文介紹了在Ubuntu 24.04中配置GPU容器支持的全流程，涵蓋了驅(qū)動安裝、工具鏈配置和驗證測試。如果您在操作中遇到問題，歡迎在評論區(qū)留言討論！