什么是Open WebUI

Open WebUI是一種可擴(kuò)展、功能豐富、用戶友好的大模型對(duì)話平臺(tái)，旨在完全離線運(yùn)行。它支持各種LLM運(yùn)行程序，包括與Ollama和Openai兼容的API。

功能

• 直觀的界面:我們的聊天界面靈感來自ChatGPT，確保了用戶友好的體驗(yàn)。
• 響應(yīng)式設(shè)計(jì):在桌面和移動(dòng)設(shè)備上享受無縫體驗(yàn)。
• 快速響應(yīng):享受快速響應(yīng)的性能。
• 輕松安裝:使用Docker或Kubernetes (kubectl, kustomize或helm)無縫安裝，獲得輕松的體驗(yàn)。
• 代碼語法突出顯示:使用我們的語法突出顯示功能，享受增強(qiáng)的代碼可讀性。
• 完全Markdown和LaTeX支持:通過全面的Markdown和LaTeX功能提升您的LLM經(jīng)驗(yàn)，以豐富交互。
• 本地RAG集成:通過突破性的檢索增強(qiáng)生成(RAG)支持，深入了解聊天交互的未來。此功能將文檔交互無縫地集成到您的聊天體驗(yàn)中。您可以直接將文檔加載到聊天中或?qū)⑽募砑拥轿臋n庫中，在提示符中使用 # 命令輕松訪問它們。在alpha階段，當(dāng)我們積極改進(jìn)和增強(qiáng)此功能以確保最佳性能和可靠性時(shí)，可能會(huì)偶爾出現(xiàn)問題。
• 網(wǎng)頁瀏覽功能:使用 # 命令后跟URL，無縫地將網(wǎng)站集成到您的聊天體驗(yàn)中。此功能允許您將web內(nèi)容直接合并到您的對(duì)話中，增強(qiáng)交互的豐富性和深度。
• 提示預(yù)設(shè)支持:使用聊天輸入中的 / 命令立即訪問預(yù)設(shè)提示。輕松加載預(yù)定義的會(huì)話啟動(dòng)器，加快您的交互。通過Open web社區(qū)集成輕松導(dǎo)入提示。
• RLHF注釋:通過對(duì)它們進(jìn)行大拇指和大拇指的評(píng)級(jí)來授權(quán)您的消息，促進(jìn)從人類反饋(RLHF)中進(jìn)行強(qiáng)化學(xué)習(xí)的數(shù)據(jù)集的創(chuàng)建。利用您的消息來訓(xùn)練或微調(diào)模型，同時(shí)確保本地保存數(shù)據(jù)的機(jī)密性。
• 對(duì)話標(biāo)簽:毫不費(fèi)力地分類和定位特定的聊天快速參考和簡化的數(shù)據(jù)收集。
• 下載/刪除模型:直接從web UI輕松下載或刪除模型。
• GGUF文件模型創(chuàng)建:通過直接從web UI上傳GGUF文件，輕松創(chuàng)建Ollama模型。簡化的過程選項(xiàng)，從您的機(jī)器上傳或下載GGUF文件從擁抱的臉。
• 多模型支持:在不同的聊天模型之間無縫切換，實(shí)現(xiàn)不同的交互。
• 多模態(tài)支持:無縫地與支持多模態(tài)交互的模型交互，包括圖像(例如，LLava)。
• Modelfile Builder:通過web UI輕松創(chuàng)建Ollama模型文件。通過Open web Community集成，輕松創(chuàng)建和添加角色/代理、自定義聊天元素和導(dǎo)入模型文件。
• 協(xié)作聊天:通過無縫編排組對(duì)話來利用多個(gè)模型的集體智能。使用 @ 命令指定模型，在聊天界面中啟用動(dòng)態(tài)和多樣化的對(duì)話。讓自己沉浸在編織在聊天環(huán)境中的集體智慧中。
• OpenAI API集成:輕松集成OpenAI兼容API，用于與Ollama模型一起進(jìn)行多功能對(duì)話。自定義API Base URL以鏈接LMStudio、Mistral、OpenRouter等。
• 多用戶管理:通過我們直觀的管理面板輕松監(jiān)督和管理用戶，簡化用戶管理流程。

安裝

Open WebUI官方推薦采用Docker方式進(jìn)行部署：

# 拉取鏡像
docker pull ghcr.io/open-webui/open-webui:main

如果沒有科學(xué)上網(wǎng)，很可能會(huì)拉不動(dòng)，可以試試 docker 代理網(wǎng)站：https://dockerproxy.com/，按步驟依次執(zhí)行以下命令：

# 如果拉不動(dòng)的話加個(gè)代理
docker pull ghcr.dockerproxy.com/open-webui/open-webui:main# 重命名鏡像（如果是通過代理下載的）
docker tag ghcr.dockerproxy.com/open-webui/open-webui:main ghcr.io/open-webui/open-webui:main# 刪除代理鏡像（如果是通過代理下載的）
docker rmi ghcr.dockerproxy.com/open-webui/open-webui:main

下載完成后，可以在映像中找到了。

使用 docker-compose 安裝，將下面的內(nèi)容保存為 docker-compose.yml 文件

version: '3'services:ollama-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: ollama-webuirestart: unless-stoppedports:- 11345:8080environment:- OLLAMA_API_BASE_URL=http://10.8.10.xxx:11434/api- WEBUI_SECRET_KEY=123456

其中
OLLAMA_API_BASE_URL填寫你的ollama的服務(wù)地址；
WEBUI_SECRET_KEY填寫一個(gè)密碼

# 將 docker-compose.yml 放入當(dāng)前目錄
# 一鍵啟動(dòng)
docker-compose up -d

運(yùn)行使用

容器運(yùn)行后，在瀏覽器中輸入 http://IP:11345 就能看到登錄界面。

登錄成功后，首先點(diǎn)擊左下角的Setting，進(jìn)行設(shè)置：

設(shè)置Ollama服務(wù)的地址：

保存后，就可以選擇我們ollama部署的模型正常進(jìn)行問答了：

另外還有兩個(gè)比較實(shí)用的功能：

1、設(shè)置prompt提示詞模板

以上是我之前設(shè)置好的提示詞模板，然后在問答的時(shí)候就可以通過“/”調(diào)用出設(shè)置好的prompt提示詞了：

2、基于文檔/網(wǎng)頁的問答
可以在這塊上傳一下自己的文檔：

在問答的過程中，可以通過“#”調(diào)用出上傳的文檔：

也可以引入一些網(wǎng)頁，對(duì)網(wǎng)頁內(nèi)容進(jìn)行問答：

其他更多內(nèi)容可以參龍：
https://docs.openwebui.com/