推廣網(wǎng)站利潤(rùn)推廣普通話(huà)的意義是什么
目錄
1??下載和安裝Ollama
1. 🥇官網(wǎng)下載安裝包
2. 🥈安裝Ollama
?3.🥉配置Ollama環(huán)境變量
4、🎉驗(yàn)證Ollama
2??本地部署DeepSeek
1. 選擇模型并下載
2. 驗(yàn)證和使用DeepSeek
3??使用可視化工具
1. Chrome插件-Page Assist
4??搭建個(gè)人知識(shí)庫(kù)
1.安裝“詞嵌入模型”
?2. 安裝Cherry Studio
3. 導(dǎo)入個(gè)人知識(shí)庫(kù)
1??下載和安裝Ollama
1. 🥇官網(wǎng)下載安裝包
首先我們到Ollama官網(wǎng)Ollama官網(wǎng)https://ollama.com/download/windows下載安裝包,此處我們下載的是Windows版本的安裝包
2. 🥈安裝Ollama
兩點(diǎn)注意:
- Ollama安裝包默認(rèn)只能安裝到C盤(pán),Ollama本身大概會(huì)占用4GB左右;
- 如果大家都C盤(pán)空間充足的話(huà)可以直接雙擊打開(kāi)安裝包點(diǎn)擊安裝即可;
下面 介紹如何將Ollama安裝到其他盤(pán):
①首先將你的Ollama安裝包放到想要安裝的路徑下,例如? D:\Ollama
②然后,在該路徑下打開(kāi) CMD終端
?
- 在終端輸入命令符安裝
?、廴缓笤贑MD窗口輸入安裝指令:OllamaSetup.exe /DIR=D:\Ollama
語(yǔ)法解釋:安裝包名稱(chēng)?/DIR=應(yīng)用程序指定安裝的目錄
然后Ollama就會(huì)進(jìn)入安裝,點(diǎn)擊Install后,可以看到Ollama的安裝路徑就變成了我們指定的目錄了;
3.🥉配置Ollama環(huán)境變量
通常安裝完成后就可以繼續(xù)使用了,但是對(duì)于某些電腦,比如我的是Win11,還需要進(jìn)行一些環(huán)境變量的配置;
共需要進(jìn)行三步環(huán)境變量的配置:
- ?修改AI大模型的下載路徑;
- 在系統(tǒng)環(huán)境Path路徑下添加Ollama的環(huán)境變量;
- 配置服務(wù)監(jiān)聽(tīng)地址,允許讓其他網(wǎng)絡(luò)可以訪問(wèn)到本地的大模型(可選);
首先第一步:搜索框直接搜索“環(huán)境變量”,打開(kāi)“編輯系統(tǒng)環(huán)境變量”設(shè)置:
1)配置AI大模型存儲(chǔ)位置
- 首先我們提前創(chuàng)建好AI大模型的存儲(chǔ)路徑;
例如:我直接在Ollama安裝路徑下創(chuàng)建了一個(gè)Models文件夾作為存儲(chǔ)路徑:D:\Ollama\Models - 然后在系統(tǒng)變量欄,新建一個(gè)變量;
變量名為:OLLAMA_MODELS
變量值為:D:\Ollama\Models
2) 檢查Ollama的環(huán)境變量
通常情況,Ollama安裝時(shí)會(huì)自動(dòng)為我們配置好環(huán)境變量;
驗(yàn)證方法:在CMD執(zhí)行ollama命令
- 如果識(shí)別失敗,重啟電腦再試一次;成功會(huì)有下面的樣式:
- 如果還是不成功,我們就需要手動(dòng)配置一下:
(1)還是打開(kāi)系統(tǒng)環(huán)境變量,雙擊Path:
(2) 點(diǎn)擊新建,然后輸入我們的Ollama安裝目錄
注意:添加到?PATH
?的路徑是包含?ollama.exe
?可執(zhí)行文件的安裝目錄,而不是其他子目錄;
3)其他環(huán)境的配置(可選)
除了以上必要的基本配置外,還有幾點(diǎn)環(huán)境變量可選擇性的修改,以方便今后其他操作;
①配置服務(wù)監(jiān)聽(tīng)地址,用來(lái)允許讓其他網(wǎng)絡(luò)可以訪問(wèn)到本地的大模型
- 變量名:OLLAMA_HOST
- 變量值:0.0.0.0
OLLAMA_HOST 0.0.0.0 --任何IP都可以訪問(wèn)
監(jiān)聽(tīng)ip地址默認(rèn)為127.0.0.1(僅限本機(jī)訪問(wèn));
如需遠(yuǎn)程訪問(wèn)可設(shè)置為0.0.0.0(設(shè)置方法同樣是新建一個(gè)變量,輸入變量名和值);
②為http開(kāi)放請(qǐng)求
- 變量名:OLLAMA_ORIGINS
- 變量值:*
下圖所示:
4、🎉驗(yàn)證Ollama
上述步驟完成后,我們可以打開(kāi)CMD,輸入ollama -v
命令,如果出現(xiàn)如下圖所示的內(nèi)容就代表Ollama安裝成功了:
2??本地部署DeepSeek
1. 選擇模型并下載
① 我們打開(kāi)Ollama官網(wǎng),點(diǎn)擊頂部的Models鏈接,此時(shí)我們就會(huì)看到deepseek-r1模型排在第一位,如下圖所示:
② 點(diǎn)擊deepseek-r1鏈接進(jìn)去,此時(shí)我們會(huì)看到下拉框中有各個(gè)版本的大模型,如下圖:
- 模型越大對(duì)電腦硬件的要求越高,具體可根據(jù)自己的電腦和需求有選擇性的下載
- 通常對(duì)于游戲本來(lái)說(shuō),下載7B的是沒(méi)什么問(wèn)題的;
③ 隨后我們復(fù)制后面的命令ollama run deepseek-r1
,粘貼到新打開(kāi)的CMD窗口中回車(chē)執(zhí)行;
2. 驗(yàn)證和使用DeepSeek
① 在DeepSeek下載完成后,我們就可以在CMD中進(jìn)行對(duì)話(huà)了,如下圖所示:
② 如果想退出對(duì)話(huà),我們可以通過(guò)?/bye?
命令退出,如下圖所示:
?③?假設(shè)我們安裝了多個(gè)DeepSeek模型,我們可以通過(guò)?ollama list
命令查看已安裝了的模型,如下圖所示:
④ 如果我們想運(yùn)行某個(gè)模型,我們可以通過(guò)ollama run 模型名稱(chēng)
命令運(yùn)行即可,如下圖所示:?
3??使用可視化工具
1. 使用Chrome插件-Page Assist
① 首先我們通過(guò)谷歌瀏覽器官方插件地址搜索Page Assist
,下載第一個(gè)插件,如下圖所示:
② 安裝完成后,可以將該插件固定到 瀏覽器頂部,方便使用,如下圖所示?
③ 隨后我們點(diǎn)擊該插件,就會(huì)出現(xiàn)如下圖所示的界面:
注意:如果界面出現(xiàn):Unable to connect to Ollama
的提示,說(shuō)明Ollama沒(méi)有啟動(dòng);
④ 設(shè)置中文:點(diǎn)擊界面右上角的Settings
按鈕,將語(yǔ)言設(shè)置為簡(jiǎn)體中文
,如下圖所示:
設(shè)置完成后返回主界面,此時(shí)就是中文界面了。
⑤ 選擇模型:點(diǎn)擊主界面中的第一個(gè)下拉框,選擇一個(gè)我們下載的模型deepseek-r1:1.5
,如下圖
到此配置完成,我們就可以愉快的對(duì)話(huà)了,如下圖:
?
4??搭建個(gè)人知識(shí)庫(kù)
1.安裝“詞嵌入模型”
- 當(dāng)我們給deepseek搭建自己的知識(shí)庫(kù)體系時(shí),需要用到一個(gè)嵌入模型:shaw/dmeta-embedding-zh
① 再次打開(kāi)Ollama官網(wǎng),搜索?dmeta-embedding-zh?選擇第一個(gè)詞條
② 同樣的,復(fù)制右側(cè)下載指令,粘貼到CMD執(zhí)行 如下圖:
?2. 安裝Cherry Studio
- Cherry Studio是一款A(yù)I知識(shí)庫(kù)集成軟件
- ?官網(wǎng):
Cherry Studio - 全能的AI助手
① 打開(kāi)Cherry Studio官網(wǎng),下載windows版 ,并根據(jù)引導(dǎo)安裝即可;
安裝成功后,界面如下圖所示:
② 在?Cherry Studio中導(dǎo)入本地下載好的DeepSeek
(設(shè)置 —> Ollama —> 管理)
?(在管理界面,我們可以看到所有從Ollama下載到本地的大模型,然后點(diǎn)擊右側(cè)?號(hào)即可導(dǎo)入)
如下圖:
③ 導(dǎo)入成功后,再次回到助手界面,點(diǎn)擊頂部模型切換版本;
?(之后我們也可以在該界面使用我們本地的deepSeek了,也是美化了使用界面)
?
3. 導(dǎo)入個(gè)人知識(shí)庫(kù)
① 點(diǎn)擊左側(cè)知識(shí)庫(kù)一欄,添加知識(shí)庫(kù)
給自己的知識(shí)庫(kù)起個(gè)名字,然后選擇之前下載好的"詞嵌入模型",如下圖:
注意:如果這里沒(méi)有顯示的話(huà),可能是你沒(méi)有導(dǎo)入進(jìn)來(lái);(記得在上幾步管理界面點(diǎn)擊加號(hào)導(dǎo)入)
然后,在以下界面,你可以導(dǎo)入自己的知識(shí)庫(kù) 喂給AI大模型;
直接拖過(guò)來(lái)即可
?當(dāng)然,你也可以導(dǎo)入一些網(wǎng)址、網(wǎng)站、筆記等等
看看效果:
可能是 本人的電腦太垃了🥲,跑7b的Deepseek模型,回答一個(gè)問(wèn)題要215秒哈😂