網(wǎng)站色彩運(yùn)用cba排名最新排名
DeepSeek從2025年1月起開(kāi)始火爆，成為全球最炙手可熱的大模型，各大媒體爭(zhēng)相報(bào)道。我們可以和文心一言一樣去官網(wǎng)進(jìn)行DeepSeek的使用，那如果有讀者希望將大模型部署在本地應(yīng)該怎么做呢？本篇文章將會(huì)教你如何在本地傻瓜式的部署我們的deepseek，即便你是文科生也可以做到，不會(huì)涉及代碼編程，只需要一些命令。
我筆記本：2019款拯救者，windows 10；內(nèi)存8G，CPU：intel 9th i5；GPU：NVIDIA 1650 4G，256G固態(tài)+1T機(jī)械硬盤(pán)。其實(shí)只要你電腦系統(tǒng)是在windows 10及以上，且具有8G內(nèi)存和30GB可用空間就基本可以部署最小版本的DeepSeek R1大模型和LLama3.2大模型。
相關(guān)的資源可以從我的百度網(wǎng)盤(pán)下載，當(dāng)然也可以從各官網(wǎng)去下載，只不過(guò)會(huì)慢一些。
鏈接: https://pan.baidu.com/s/15H48zFG394P23b7wM2nTXA
提取碼: iipt?
本地部署DeepSeek和llama
本節(jié)將詳細(xì)介紹如果通過(guò)Ollama和Open WebUI在本地計(jì)算機(jī)環(huán)境中部署DeepSeek R1和LLama 3.2大模型。
1.安裝Ollama
Ollama是一個(gè)開(kāi)源的本地化大模型部署工具，旨在簡(jiǎn)化大型語(yǔ)言模型（LLM）的安裝、運(yùn)行和管理。它支持多種模型架構(gòu)，并提供與OpenAI兼容的API接口，適合開(kāi)發(fā)者和企業(yè)快速搭建私有化AI服務(wù)。
Ollama官方網(wǎng)址：https://ollama.com/
點(diǎn)進(jìn)去以后界面如下，然后點(diǎn)擊Download。
?
?我們這里選擇Windows版本，所以選擇Windows，然后點(diǎn)擊Download for Windows，這里有時(shí)候會(huì)讓你登錄注冊(cè)后才可以下載，有些同學(xué)從這里下載會(huì)很慢，因此還是推薦從我的百度網(wǎng)盤(pán)下載。
?下載完成以后，雙擊安裝包文件“OllamaSetup.exe”完成安裝。
注意：這里默認(rèn)安裝為C盤(pán)。
1.1更改大模型下載位置
這一步并不是必須的，如果你C盤(pán)位置足夠可以不用管。如果你希望更改其他位置可以看這一部分。
安裝完畢后，如何檢驗(yàn)Ollama是否安裝完畢呢？方法很簡(jiǎn)單，按鍵盤(pán)上的windows鍵+R鍵，然后輸入cmd并確定，如下：
緊接著在跳出的窗口輸入以下命令：?ollama --version? ? 當(dāng)我們可以看到打印的ollama版本就說(shuō)明安裝成功了。
?
后續(xù)下載的各類(lèi)大模型也均存儲(chǔ)在C盤(pán)，因此如果你希望把大模型放在其他盤(pán)，例如我這里是F盤(pán)，操作如下：
我是在F盤(pán)新建了一個(gè)ollama的文件夾。如下：
下載的各類(lèi)大模型一般默認(rèn)位置為：C:/User/你的用戶(hù)名/.ollama/models/
然后將上述models整個(gè)文件夾剪切到你自己新建的文件中，我這里是F:/ollama/models，如下：
到了這還沒(méi)有完，我們還需要修改環(huán)境變量，便于讓后續(xù)的Ollama自動(dòng)找到我們的大模型。
右鍵“此電腦”
：
然后點(diǎn)擊屬性，點(diǎn)擊高級(jí)系統(tǒng)設(shè)置。
?在系統(tǒng)屬性窗口，點(diǎn)擊高級(jí)-->環(huán)境變量。
?在跳出來(lái)的環(huán)境變量窗口用戶(hù)變量中點(diǎn)擊新建。
輸入以下內(nèi)容：
?變量值為你存儲(chǔ)大模型的位置，根據(jù)自己的實(shí)際位置進(jìn)行修改。
2.下載DeepSeek R1大模型
我這里僅以DeepSeek R1大模型為例，其他大模型例如LLama也是一樣的操作。
模型下載地址：https://ollama.com/library/，該地址進(jìn)去后有各類(lèi)大模型。
?但這里給一個(gè)更方便的下載方法，讓Ollama為我們自己下載。
?因?yàn)槲疫@里的顯存比較小，因此我選擇下載的是deepseel-R1，llama3.2也可以帶起來(lái)。
只需要在cmd中輸入ollama run deepseek-r1:1.5b命令即可下載或運(yùn)行。(如果之前沒(méi)有下載會(huì)自動(dòng)下載，如果已經(jīng)下載過(guò)了，輸入該命令后會(huì)自動(dòng)運(yùn)行大模型)，這里的下載速度取決你的網(wǎng)速的和模型大小。
安裝成果后你就可以和deepseek對(duì)話了，如下，關(guān)閉窗口就退出模型了：
如果你要查看你下載了哪些大模型，命令如下：
ollama list
?
?
3.安裝Open-WebUI
上述的方法使用大模型是不是感覺(jué)太Low了，不像GPT或者文心一言有一個(gè)網(wǎng)頁(yè)的交互界面，因此也有前人為我們?cè)旌昧溯喿?#xff0c;我們直接拿來(lái)用就行，這個(gè)框架框架就是Open-WebUI。
但是安裝此框架之前需要你電腦上安裝好python3.12，注意要3.12版本！太低不兼容，也不建太新的，咱們就按官方推薦的來(lái)。
然后在cmd中輸入以下命令：
pip install open-webui -i https://pypi.tuna.tsinghua.edu.cn/simple
注意：這里的安裝的時(shí)間可能會(huì)比較長(zhǎng)，如果長(zhǎng)時(shí)間不動(dòng)或者卡住，可嘗試按一下回車(chē)鍵。
安裝完成后，同樣在cmd中輸入open-webui serve命令開(kāi)啟我們的UI界面,看到下面界面并不意味著已經(jīng)完全啟動(dòng)成功，咱們還需要繼續(xù)等待。
直到出現(xiàn)以下類(lèi)似的信息后，才說(shuō)明啟動(dòng)成功。?
接下來(lái)就是見(jiàn)證奇跡的時(shí)刻！！！打開(kāi)你的瀏覽器，輸入網(wǎng)址：
http:/localhost:8080
注意：第一次登錄的時(shí)候，需要你自己先注冊(cè)到本地一個(gè)管理員賬戶(hù)。?
如果你想切換大模型，可以點(diǎn)擊下面的選項(xiàng)。
接下來(lái)你就可以實(shí)現(xiàn)對(duì)話啦~~~
?
注意：默認(rèn)大模型是離線的，也就是不接入互聯(lián)網(wǎng)。如果你希望聯(lián)網(wǎng)，那么你可以進(jìn)行如下設(shè)置：
點(diǎn)擊左下角的賬戶(hù)，然后點(diǎn)擊設(shè)置，找到如下設(shè)置，也可以用其他的搜索引擎，但需要API。
?
?但是嘗試了一下deepseek r1，感覺(jué)效果很一般，更大參數(shù)的模型效果會(huì)好一些。