example郵箱注冊網(wǎng)站最近剛發(fā)生的新聞
文章目錄
- 1、查看版本信息
- 查看GPU
- 查看cuda版本
- 其他方法
- 2區(qū)分 了解
- cuda
- CUDA Toolkit
- NVCC
- cuDNN
- 3/ 安裝過程
- 4/版本的問題
- CUDA Toolkit和 顯卡驅(qū)動 的版本對應
- CUDA / CUDA Toolkit和cuDNN的版本對應
- 5/關于CUDA和Cudnn
- **5.1 CUDA的命名規(guī)則**
- **5.2 如何查看自己所安裝的CUDA的版本:**
- **5.3 如何查看自己的cuDNN的版本**
- 5.4 NVIDIA顯卡及其計算能力查看
1、查看版本信息
查看GPU

查看cuda版本
命令行中輸入 nvidia-smi
C:\Users\Administrator>nvidia-smi
Mon Dec 14 20:24:37 2020
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.79 Driver Version: 460.79 CUDA Version: 11.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 GeForce RTX 3070 WDDM | 00000000:01:00.0 On | N/A |
| 0% 50C P2 48W / 240W | 1203MiB / 8192MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
其中 CUDA Version:11.2 就是當前顯卡的CUDA版本啦。
找不到該命令怎么辦:
1、cmd中目錄切換到 C:\Program Files\NVIDIA Corporation\NVSMI下然后再使用nvidia-smi命令。
2、在系統(tǒng)變量的Path變量中添加C:\Program Files\NVIDIA Corporation\NVSMI,
其他方法
1、控制面板-----NVIDIA控制面板

2、系統(tǒng)信息

3、如圖

顯卡驅(qū)動一般自帶,官網(wǎng)下載地址:官方 GeForce 驅(qū)動程序 | NVIDIA
快速安裝CUDA和Cudnn可參考:【CUDA】cuda安裝 (windows版)
備份鏈接:https://app.yinxiang.com/shard/s11/nl/18572327/940c7ced-3cdf-4647-b807-e40e574ef804
下面具體講述區(qū)別和聯(lián)系以及下載流程
2區(qū)分 了解
cuda
CUDA是顯卡廠商NVIDIA推出的運算平臺。CUDA英文全稱是Compute Unified Device Architecture。
*CUDA是NVIDIA推出的用于自家GPU的并行計算框架,是一種并行計算平臺和編程模型,也就是說CUDA只能在NVIDIA的GPU上運行,而且只有當要解決的計算問題是可以大量并行計算的時候才能發(fā)揮CUDA的作用
有人說:CUDA是一門編程語言,像C,C++,python 一樣,也有人說CUDA是API。
官方說:CUDA是一個并行計算平臺和編程模型,能夠使得使用GPU進行通用計算變得簡單和優(yōu)雅。
運行CUDA應用程序要求系統(tǒng)至少具有一個具有CUDA功能的GPU和與CUDA Toolkit兼容的驅(qū)動程序。
查看CUDA版本命令:nvcc -V
或nvcc --version
或cat /usr/local/cuda/version.txt
(1) NVIDIA的顯卡驅(qū)動程序和CUDA完全是兩個不同的概念哦!
CUDA和CUDA Driver顯卡驅(qū)動不是一一對應的,比如同一臺電腦上可同時安裝CUDA 9.0、CUDA 9.2、CUDA 10.0等版本。
CUDA本質(zhì)上只是一個工具包(ToolKit);所以我可以在同一個設備上安裝很多個不同版本的CUDA,比如我的電腦上同事安裝了 CUDA 9.0、CUDA 9.2、CUDA 10.0三個版本。一般情況下,我只需要安裝最新版本的顯卡驅(qū)動,然后根據(jù)自己的選擇選擇不同CUDA工具包就可以了,但是由于使用離線的CUDA總是會捆綁CUDA和驅(qū)動程序(下面闡述),所以在使用多個CUDA的時候就不要選擇離線安裝的CUDA了,否則每次都會安裝不同的顯卡驅(qū)動,這不太好,我們直接安裝一個最新版的顯卡驅(qū)動,然后在線安裝不同版本的CUDA即可。顯卡驅(qū)動下載地址:https://www.nvidia.com/Download/index.aspx?lang=en-us
CUDA Toolkit
CUDA工具包的主要包含了CUDA-C和CUDA-C++編譯器、一些科學庫和實用程序庫、CUDA和library API的代碼示例、和一些CUDA開發(fā)工具。(通常在安裝CUDA Toolkit的時候會默認安裝CUDA Driver;但是我們經(jīng)常只安裝CUDA Driver,沒有安裝CUDA Toolkit,因為有時不一定用到CUDA Toolkit;比如我們的筆記本電腦,安裝個CUDA Driver就可正??匆曨l、辦公和玩游戲了)
詳細內(nèi)容見NVIDIA官方
cudatoolkit有兩種:
①Nvidia 官方提供的 CUDA Toolkit
(官方提供的CUDA Toolkit是一個完整的工具安裝包)大
②Anaconda安裝Pytorch時,會自動安裝cudatoolkit
(conda安裝的只包含動態(tài)鏈接庫等pytorch框架需要用到的東西)小原文鏈接
CUDA和CUDA toolkit區(qū)別: cuda和cudatoolkit_獨孤的大山貓的博客-CSDN博客_cudatoolkit和cuda有關系嗎
NVCC
NVCC就是CUDA的編譯器,可以從CUDA Toolkit的/bin目錄中獲取,類似于gcc就是c語言的編譯器。由于程序是要經(jīng)過編譯器編程成可執(zhí)行的二進制文件,而cuda程序有兩種代碼,一種是運行在cpu上的host代碼,一種是運行在gpu上的device代碼,所以nvcc編譯器要保證兩部分代碼能夠編譯成二進制文件在不同的機器上執(zhí)行。
cuDNN
cuDNN的全稱為NVIDIA CUDA? Deep Neural Network library,是NVIDIA專門針對深度神經(jīng)網(wǎng)絡中的基礎操作而設計基于GPU的加速庫。cuDNN為深度神經(jīng)網(wǎng)絡中的標準流程提供了高度優(yōu)化的實現(xiàn)方式,例如convolution、pooling、normalization以及activation layers的前向以及后向過程。
CUDA這個平臺一開始并沒有安裝cuDNN庫,當開發(fā)者們需要用到深度學習GPU加速時才安裝cuDNN庫,工作速度相較CPU快很多。
CUDNN是基于CUDA的深度學習GPU加速庫,有了它才能在GPU上完成深度學習的計算;
來自知乎的解釋:CUDA看作是一個工作臺,上面配有很多工具,如錘子、螺絲刀等。cuDNN是基于CUDA的深度學習GPU加速庫,有了它才能在GPU上完成深度學習的計算。它就相當于工作的工具,比如它就是個扳手。但是CUDA這個工作臺買來的時候,并沒有送扳手。想要在CUDA上運行深度神經(jīng)網(wǎng)絡,就要安裝cuDNN,就像你想要擰個螺帽就要把扳手買回來。這樣才能使GPU進行深度神經(jīng)網(wǎng)絡的工作,工作速度相較CPU快很多。
基本上所有的深度學習框架都支持cuDNN這一加速工具,例如:Caffe、Caffe2、TensorFlow、Torch、Pytorch、Theano等。
Caffe可以通過修改Makefile.config中的相應選項來修改是否在編譯Caffe的過程中編譯cuDNN,如果沒有編譯cuDNN的話,執(zhí)行一些基于Caffe這一深度學習框架的程序速度上要慢3-5倍(Caffe官網(wǎng)上說不差多少,明明差很多嘛)。Caffe對cuDNN的版本不是很嚴格,只要大于cuDNN 4就可以。
查看cuDNN版本:cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
3/ 安裝過程
1/顯卡驅(qū)動下載地址:https://www.nvidia.com/Download/index.aspx?lang=en-us
2/CUDA的下載地址為:CUDA Toolkit Archive | NVIDIA Developer
我們可以選擇兩種安裝方式,一種是在線安裝(我還沒用過),一中離線安裝(我采用的)即本地安裝,
當我們選擇離線安裝,當我們選定相對應的版本之后,下載的時候發(fā)現(xiàn)這個地方的文件大小大概在2G左右,Linux系統(tǒng)下面我們選擇runfile(local)
完整安裝包從本地安裝,或者是選擇windows的本地安裝。
直接點擊exe文件安裝即可。
安裝過程中:
- 選擇“自定義安裝”—不要勾選“CUDA- -VS Intergation”,
- 不建議勾選“other components”和“other compontens”,如果當前版本有版本號就不要勾選了
- 如果不是第一次安裝,我覺得可以把“CUDA- - Samples”取消掉
CUDA安裝完成后,打開powershell,執(zhí)行nvcc -V ,成功的話會返回cuda版本號。
CUDA Toolkit本地安裝包時內(nèi)含特定版本Nvidia顯卡驅(qū)動的,所以只選擇下載CUDA Toolkit就足夠了,如果想安裝其他版本的顯卡驅(qū)動就下載相應版本即可。
所以,NVIDIA顯卡驅(qū)動和CUDA工具包本身是不具有捆綁關系的,也不是一一對應的關系,只不過是離線安裝的CUDA工具包會默認攜帶與之匹配的最新的驅(qū)動程序。
3/ CUDA ToolKit的安裝:
暫時理解為:安裝cuda就是安裝cuda ToolKit
4/ cuDNN安裝:cuDNN是一個SDK,是一個專門用于神經(jīng)網(wǎng)絡的加速包,注意,它跟我們的CUDA沒有一一對應的關系,即每一個版本的CUDA可能有好幾個版本的cuDNN與之對應,但一般有一個最新版本的cuDNN版本與CUDA對應更好。
官網(wǎng)直接下:cuDNN Archive | NVIDIA Developer
解壓cuDNN壓縮包,可以看到bin、include、lib目錄;打開 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA
找到你安裝的版本目錄,打開,找到bin、include、lib目錄,將cuDNN壓縮包內(nèi)對應的文件復制到bin、include、lib目錄。
注意:是復制文件到bin、include、lib目錄,不是復制目錄。
4/版本的問題
CUDA Toolkit和 顯卡驅(qū)動 的版本對應
每個版本的CUDA Toolkit 都對應一個最低版本的顯卡驅(qū)動版本(CUDA Driver),詳情見下表。顯卡驅(qū)動下載,CUDA Toolkit下載,顯卡驅(qū)動安裝教程,CUDA Toolkit安裝教程1,CUDA Toolkit安裝教程2
安裝CUDA Driver核心命令:
sudo sh ./NVIDIA-Linux-x86_64-???.??.run
詳細教程參考其他博客
需要知道:CUDA Toolkit和顯卡驅(qū)動有版本的對應關系。
但同時:在同一臺機器上(即同一個CUDA Driver版本)可以安裝多個版本的CUDA(如CUDA 9.0、CUDA 10.1……只需要滿足當前CUDA Driver版本支持安裝的CUDA版本即可,滿足關系見下圖。
我的理解:安裝CUDA就是安裝CUDA Toolkit(CUDA是運算平臺名稱、CUDA Toolkit是工具包),就是從官網(wǎng)下載CUDA Toolkit安裝.run文件(如cuda_9.0.176_384.81_linux.run)進行安裝。
安裝成功后,在/usr/local路徑下才會有cuda-9.0文件夾,且同時才可以使用nvcc -V
可以查詢到CUDA版本

-
Anaconda在安裝Pytorch時,會同時用戶安裝cudatoolkit,如命令
conda install pytorch torchvision torchaudio cudatoolkit=10.1 -c pytorch
,其主要包含應用程序在使用CUDA相關的功能時所依賴的動態(tài)鏈接庫。conda安裝只會安裝一些計算庫,不會安裝編譯工具。而官方的cuda包包含的東西會完整一些。 -
使用 Anaconda 安裝的 CUDA Toolkit 不位于 lib64 路徑中,也不會產(chǎn)生沖突
-
在考慮
pip install tensorflow-gpu
安裝tensorflow時,如安裝TensorFlow2.1,需要安裝CUDA Toolkit版本為10.1,而安裝Tensorflow1.14.0,則要求cuda==10.0(tensorflow與cuda也有版本兼容問題,官方文檔)
查詢上圖,我們發(fā)現(xiàn)需要顯卡驅(qū)動版本應該大于等于418.96,故系統(tǒng)中的顯卡驅(qū)動版本應該至少為418.39。 -
CUDA Toolkit本地安裝包(local)內(nèi)含特定版本Nvidia顯卡驅(qū)動的,當在CUDA官網(wǎng)下載CUDA Toolkit后進行安裝時會讓用戶選擇安裝項。
-
如果想安裝其他版本的顯卡驅(qū)動,則就需要在Nvidia官網(wǎng)自己下載并先安裝好(或本機已經(jīng)安裝了合適版本的顯卡驅(qū)動時),最后在安裝CUDA Toolkit時取消安裝內(nèi)置版本的Nvidia顯卡驅(qū)動。
CUDA / CUDA Toolkit和cuDNN的版本對應
**CUDA / CUDA Toolkit和cuDNN之間有版本對應關系。
但同時:同一個CUDA 版本支持安裝多個版本的cuDNN(如cuDNN v7.6.4、cuDNN v7.6.3……選擇其一安裝即可。
cuDNN下載,cuDNN下載安裝教程
-
查閱cuDNN下載網(wǎng)站,可以知道,如果目前電腦中安裝了CUDA Toolkit=10.1(也就是CUDA10.1),那么cuDNN的可選版本有7.6.4、7.6.3、7.6.2
同上,如需要安裝TensorFlow2.1,故我們需要安裝CUDA Toolkit=10.1,同時cuDNN就需要從7.6.4、7.6.3、7.6.2這三個版本中選擇。
5/關于CUDA和Cudnn
5.1 CUDA的命名規(guī)則
下面以幾個例子來說
(1)CUDA 9.2 CUDA 9.2.148
(2)CUDA 10.0 CUDA 10.0.130.411.31(后面的411.31對應更具體的版本號)
(3)CUDA 10.1 CUDA 10.1.105.418.96(后面的418.96對應更具體的版本號)
更多詳細的請參考如下官網(wǎng):https://developer.nvidia.com/cuda-toolkit-archive
5.2 如何查看自己所安裝的CUDA的版本:
(1)直接在NVIDIA的控制面板里面查看NVCUDA.DLL的版本。
注意:這里網(wǎng)上有很多說法是錯誤的,這個版本并不能絕對說明自己所安裝的CUDA工具包一定這個版本
(2)通過命令查看:nvcc -V 或者是nvcc --version都可以,但前提是添加了環(huán)境變量
(3)直接通過文件查看,這里分為Linux和windows兩種情況
在windows平臺下,可以直接進入CUDA的安裝目錄,比如我的是:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2 里面有一個version.txt的文本文件,直接打開即可,也可以使用命令,即首先進入到安裝目錄,然后執(zhí)行:type version.txt 即可查看
在Linux平臺下:同windows類似,進入到安裝目錄,然后執(zhí)行 cat version.txt 命令
5.3 如何查看自己的cuDNN的版本
因為cuDNN本質(zhì)上就是一個C語言的H頭文件,
(1)在windows平臺下:
直接進入安裝目錄:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\include 之下,然后找到
cudnn.h 的頭文件,直接到開查看,在最開始的部分會有如下定義:
即5005,即5.0.5版本的cudnn。
5.4 NVIDIA顯卡及其計算能力查看
官網(wǎng):CUDA GPU | NVIDIA Developer(GeForce系列的顯卡以及各個顯卡的計算能力(compute capability))