wamp 設(shè)置多個網(wǎng)站愛鏈在線
用Deepseek搭建免費的個人知識庫–綜合教程(完整版):第二篇:Ollama服務(wù)器部署
OLLAMA服務(wù)器的配置在很多網(wǎng)上都已經(jīng)介紹的非常清楚了,我們的重點不在于那些簡單的步驟,而是在需要為下一步做準(zhǔn)備的地方更加詳細(xì)的講解。
安裝Ollama,下載模型,本地運行測試
上官網(wǎng)https://ollama.com/ 下載好對應(yīng)系統(tǒng)的Ollama,運行安裝。完成后運行Ollama,然后打開命令行。(linux系統(tǒng)打開Bash終端,MacOS打開終端,windows推薦powershell, 最新的powershell 7.5版本很好用,可以在windows商店直接下載,也可以上網(wǎng)上搜索。如果沒有,普通命令行CMD也行)
運行指令:
Ollama run deepseek-r1:1.5b
完成后進入聊天模式:提問題,如果回答了就成功了。說明本地運行沒問題了。
配置Ollama的網(wǎng)絡(luò)和密鑰
配置網(wǎng)絡(luò)
linux/macOS:
export OLLAMA_HOST=0.0.0.0:11434
windows powershell:
$env:OLLAMA_HOST = "0.0.0.0:11434"
或者
Set-ItemProperty -Path "Env:OLLAMA_HOST" -Value "0.0.0.0:11434"
配置密鑰:
安裝openssl,生成 Base64 編碼的隨機字符串來定義Ollama api key增加安全性:
openssl rand -base64 24
#輸出示例:
UjK4d3VY7+9rQ4c5p7X2m8n9g5f4A3s2w==
然后保存這個密鑰短句放到系統(tǒng)的變量環(huán)境中:
Set-ItemProperty -Path "Env:OLLAMA_API_Key" -Value "UjK4d3VY7+9rQ4c5p7X2m8n9g5f4A3s2w=="
如果ollama服務(wù)器需要在公網(wǎng)直接訪問采用這種方式:(可選)
Ollama運行一個HTTP服務(wù)器,可以使用諸如Nginx之類的代理服務(wù)器公開。為此,配置代理以轉(zhuǎn)發(fā)請求,并可選擇設(shè)置所需的標(biāo)頭(如果不在網(wǎng)絡(luò)上公開Ollama)。例如,使用Nginx:
server {listen 80;server_name your_domain_or_ip;auth_basic "Restricted Access";auth_basic_user_file /etc/nginx/ollama_users;location / {proxy_pass http://localhost:11434;proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection 'upgrade';proxy_set_header Host $host;proxy_cache_bypass $http_upgrade;}
}
但是由于ollama服務(wù)器按照我們的架構(gòu),ollama服務(wù)器不直接對外提供服務(wù),而是通過網(wǎng)站工具例如(chatbox或者open web UI)所以這里不需要配置這個東西。
tag:本地部署Deepseek,離線部署Deepseek。