參考鏈接

本人學(xué)習(xí)使用，侵權(quán)刪謝謝。

用人話講解深度學(xué)習(xí)中CUDA，cudatookit，cudnn和pytorch的關(guān)系

CUDA

CUDA是顯卡廠商N(yùn)VIDIA推出的運(yùn)算平臺。 CUDA?是一種由NVIDIA推出的通用并行計(jì)算架構(gòu)，是一種并行計(jì)算平臺和編程模型，該架構(gòu)使GPU能夠解決復(fù)雜的計(jì)算問題。CUDA英文全稱是Compute Unified Device Architecture。

我們可以通過nvidia-smi命令查看cuda版本號。

如上圖所示，這里顯示的是當(dāng)前顯卡可支持的最高CUDA版本。

CUDA Toolkit

CUDA Toolkit可以理解成一個工具包，主要包含了CUDA-C和CUDA-C++編譯器、一些科學(xué)庫和實(shí)用程序庫、CUDA和library API的代碼示例、和一些CUDA開發(fā)工具。

cudatookit版本有時會被簡稱為cuda版本，這也是我們經(jīng)常搞混的一個原因。

cuDNN

cuDNN的全稱為NVIDIA CUDA? Deep Neural Network library，是NVIDIA專門針對深度神經(jīng)網(wǎng)絡(luò)中的基礎(chǔ)操作而設(shè)計(jì)基于GPU的加速庫。cuDNN為深度神經(jīng)網(wǎng)絡(luò)中的標(biāo)準(zhǔn)流程提供了高度優(yōu)化的實(shí)現(xiàn)方式。

簡單來說，cuDNN是基于CUDA的深度學(xué)習(xí)GPU加速庫，有了它才能在GPU上完成深度學(xué)習(xí)的計(jì)算。

Pytorch

pytorch是基于CUDA的深度學(xué)習(xí)框架，因此，pytorch的版本必須依賴于cuda toolkit的版本。

小總結(jié)

CUDA看作是一個工作臺，上面配有很多工具，如錘子、螺絲刀等。cuDNN是基于CUDA的深度學(xué)習(xí)GPU加速庫，有了它才能在GPU上完成深度學(xué)習(xí)的計(jì)算。它就相當(dāng)于工作的工具，比如它就是個扳手。但是CUDA這個工作臺買來的時候，并沒有送扳手。想要在CUDA上運(yùn)行深度神經(jīng)網(wǎng)絡(luò)，就要安裝cuDNN，就像你想要擰個螺帽就要把扳手買回來。這樣才能使GPU進(jìn)行深度神經(jīng)網(wǎng)絡(luò)的工作，工作速度相較CPU快很多。

總結(jié)一下，食物鏈頂端的是CUDA這個工作臺，也就是我們電腦的硬件配置，我們要先查看它的版本，然后根據(jù)這個來看我們都能下載多高的cudatookit版本，然后根據(jù)cudatookit版本來選擇cudnn版本和可支持的pytorch版本

因此配置環(huán)境的流程為：
查看CUDA版本 ——> 選擇cudatookit版本 ——> 選擇cudnn版本 + pytorch版本