廣州網(wǎng)站建設(shè)怎么做福清市百度seo
1.什么是CUDA,什么是CUDNN
(1)什么是CUDA
CUDA(ComputeUnified Device Architecture),是顯卡廠商N(yùn)VIDIA推出的運(yùn)算平臺(tái)。 CUDA是一種由NVIDIA推出的通用并行計(jì)算架構(gòu),該架構(gòu)使GPU能夠解決復(fù)雜的計(jì)算問題。
(2)什么是CUDNN
NVIDIA cuDNN是用于深度神經(jīng)網(wǎng)絡(luò)的GPU加速庫。它強(qiáng)調(diào)性能、易用性和低內(nèi)存開銷。NVIDIA cuDNN可以集成到更高級(jí)別的機(jī)器學(xué)習(xí)框架中,如谷歌的Tensorflow、加州大學(xué)伯克利分校的流行caffe軟件。簡單的插入式設(shè)計(jì)可以讓開發(fā)人員專注于設(shè)計(jì)和實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型,而不是簡單調(diào)整性能,同時(shí)還可以在GPU上實(shí)現(xiàn)高性能現(xiàn)代并行計(jì)算。
(3)CUDA與CUDNN的關(guān)系
CUDA看作是一個(gè)工作臺(tái),上面配有很多工具,如錘子、螺絲刀等。cuDNN是基于CUDA的深度學(xué)習(xí)GPU加速庫,有了它才能在GPU上完成深度學(xué)習(xí)的計(jì)算。它就相當(dāng)于工作的工具,比如它就是個(gè)扳手。但是CUDA這個(gè)工作臺(tái)買來的時(shí)候,并沒有送扳手。
想要在CUDA上運(yùn)行深度神經(jīng)網(wǎng)絡(luò),就要安裝cuDNN,就像你想要擰個(gè)螺帽就要把扳手買回來。這樣才能使GPU進(jìn)行深度神經(jīng)網(wǎng)絡(luò)的工作,工作速度相較CPU快很多。
參閱該篇博客
2.在配置pytorch虛擬環(huán)境中遇到的問題
(1)如何查看電腦能夠支持的最高cuda版本
1)鼠標(biāo)右鍵,點(diǎn)擊NVIDIA控制面板
2)打開左下角系統(tǒng)信息,切換到組件
(2)在pytorch的虛擬環(huán)境中,輸入 “torch.cuda.is_available()”,返回true,表示能夠使用gpu版的pytorch,但如果在運(yùn)行程序的過程中出現(xiàn)"GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.",這表示顯卡的算力超出了pytorch虛擬環(huán)境中cuda支持的算力,此時(shí)需要提高cuda的版本
可參閱該篇博客
(3)在配置pytorch虛擬環(huán)境前如何選擇cuda以及pytorch版本
1)通過(1)可知,在虛擬環(huán)境中安裝的cuda版本不能大于此版本
2)通過(2)可知,虛擬環(huán)境中cuda版本支持的算力應(yīng)大于等于顯卡的算力
不同cuda支持的計(jì)算能力情況
不同算力對(duì)應(yīng)顯卡列表
3)通過1)、2)確定cuda版本后,根據(jù)NVIDIA驅(qū)動(dòng)版本與CUDA版本的對(duì)應(yīng)關(guān)系查看是否需要更新自己的顯卡驅(qū)動(dòng)
NVIDIA驅(qū)動(dòng)版本與CUDA版本對(duì)應(yīng)關(guān)系
4)通過1)、2)確定cuda版本后,根據(jù)cuda與pytorch對(duì)應(yīng)的關(guān)系確定pytorch版本
5)根據(jù)4)的版本在pytorch官網(wǎng)匹配pytorch的下載命令
PyTorch中torch、torchvision、torchaudio版本對(duì)應(yīng)關(guān)系
3.在安裝gpu—pytorch中遇到的問題
(1)安裝gpu版的pytorch時(shí)能夠自動(dòng)安裝cuda和cudnn嗎
通過命令行會(huì)自動(dòng)將需要的cudatoolkit安裝好,不需要單獨(dú)去在網(wǎng)上搜索怎樣安裝cuda和cudnn
可參閱該篇博客
(2)電腦會(huì)自帶cuda嗎
一般來說顯卡正常工作的話會(huì)對(duì)應(yīng)一個(gè)cuda版本,系統(tǒng)中的初始cuda也是別人裝的
可參閱該篇博客