網站 linux 服務器配置百度關鍵詞優(yōu)化曝光行者seo
語析 - 基于大模型的知識庫與知識圖譜問答平臺
GitHub 地址:https://github.com/xerrors/Yuxi-Know
📝 項目概述
語析是一個強大的問答平臺,結合了大模型 RAG 知識庫與知識圖譜技術,基于 Llamaindex + VueJS + FastAPI + Neo4j 構建。
核心特點:
- 🤖 多模型支持:適配 OpenAI、各大國內主流大模型平臺,以及本地 vllm 部署
- 📚 靈活知識庫:支持 PDF、TXT、MD 等多種格式文檔
- 🕸? 知識圖譜集成:基于 Neo4j 的知識圖譜問答能力
- 🚀 簡單配置:只需配置對應服務平臺的
API_KEY
即可使用
📋 更新日志
- 2025.02.24 - 新增網頁檢索以及內容展示,需配置
TAVILY_API_KEY
,感謝 littlewwwhite - 2025.02.23 - SiliconFlow 的 Rerank 和 Embedding model 支持,現默認使用 SiliconFlow
- 2025.02.20 - DeepSeek-R1 支持,需配置
DEEPSEEK_API_KEY
或SILICONFLOW_API_KEY
- 2024.10.12 - 后端修改為 FastAPI,添加 Milvus-Standalone 獨立部署
PC 網頁 | 小屏設備 |
---|---|
![]() | |
![]() |
環(huán)境配置
在啟動前,您需要提供 API 服務商的 API_KEY,并放置在 src/.env
文件中。
默認使用硅基流動的服務,因此必須配置:
SILICONFLOW_API_KEY=sk-270ea********8bfa97.e3XOMd****Q1Sk
本項目的基礎對話服務可在不含顯卡的設備上運行,大模型使用在線服務商的接口。
啟動服務
開發(fā)環(huán)境啟動(源代碼修改會自動更新):
docker compose -f docker/docker-compose.dev.yml --env-file src/.env up --build
添加
-d
參數可在后臺運行
生產環(huán)境部署請使用:
docker compose -f docker/docker-compose.yml --env-file src/.env up --build -d
成功啟動后,會看到以下容器:
[+] Running 7/7? Network docker_app-network Created? Container graph-dev Started? Container milvus-etcd-dev Started? Container milvus-minio-dev Started? Container milvus-standalone-dev Started? Container api-dev Started? Container web-dev Started
訪問 http://localhost:5173/ 即可使用系統(tǒng)。
服務管理
關閉服務:
docker compose -f docker/docker-compose.dev.yml --env-file src/.env down
查看日志:
docker logs <容器名稱> # 例如:docker logs api-dev
💻 模型支持
1. 對話模型
本項目支持通過 API 調用的模型,本地模型需使用 vllm、ollama 轉成 API 服務后使用。
模型供應商 | 默認模型 | 配置項目 |
---|---|---|
siliconflow (默認) | Qwen/Qwen2.5-7B-Instruct (免費) | SILICONFLOW_API_KEY |
openai | gpt-4o | OPENAI_API_KEY |
deepseek | deepseek-chat | DEEPSEEK_API_KEY |
arc (豆包方舟) | doubao-1-5-pro-32k-250115 | ARK_API_KEY |
zhipu (智譜清言) | glm-4-flash | ZHIPUAI_API_KEY |
dashscope (阿里) | qwen-max-latest | DASHSCOPE_API_KEY |
qianfan (百度) | ernie_speed | QIANFAN_ACCESS_KEY , QIANFAN_SECRET_KEY |
添加新模型供應商
如需添加供應商模型,了解 OpenAI 調用方法后,只需在 src/static/models.yaml 中添加對應配置:
ark:name: 豆包(Ark)url: https://console.volcengine.com/ark/region:ark+cn-beijing/model # 模型列表default: doubao-1-5-pro-32k-250115 # 默認模型base_url: https://ark.cn-beijing.volces.com/api/v3env: # 需要配置的環(huán)境變量,僅限API key- ARK_API_KEYmodels:- doubao-1-5-pro-32k-250115- doubao-1-5-lite-32k-250115- deepseek-r1-250120
本地模型部署
支持添加以 OpenAI 兼容模式運行的本地模型,可在 Web 設置中直接添加(適用于 vllm 和 Ollama 等)。
[!注意]
使用 docker 運行此項目時,ollama 或 vllm 需監(jiān)聽0.0.0.0
2. 向量模型與重排序模型
建議使用硅基流動部署的 bge-m3(免費且無需修改)。其他模型配置參考 src/static/models.yaml。
對于向量模型和重排序模型,選擇 local
前綴的模型會自動下載。如遇下載問題,請參考 HF-Mirror 配置。
要使用已下載的本地模型,可在網頁設置中映射,或修改 saves/config/base.yaml
。記得在 docker-compose 中映射相應的 volumes。
📚 知識庫支持
本項目支持多種格式的知識庫文件:
- Txt
- Markdown
- Docx
文件上傳后,系統(tǒng)會:
- 將文件轉換為純文本
- 使用向量模型將文本轉換為向量
- 存儲到向量數據庫中
此過程可能需要一定時間,請耐心等待。
🕸? 知識圖譜支持
本項目使用 Neo4j 作為知識圖譜存儲。您需要將圖譜整理成 jsonl 格式,每行格式為:
{"h": "北京", "t": "中國", "r": "首都"}
然后在網頁的圖譜管理中添加此文件。
[!說明]
現階段項目使用的 OneKE 自動創(chuàng)建知識圖譜效果不佳,已暫時移除,建議在項目外創(chuàng)建知識圖譜
系統(tǒng)啟動后會自動啟動 neo4j 服務:
- 訪問地址:http://localhost:7474/
- 默認賬戶:
neo4j
- 默認密碼:
0123456789
可在 docker/docker-compose.yml
和 docker/docker-compose.dev.yml
中修改配置(注意同時修改 api.environment
和 graph.environment
)。
目前項目暫不支持同時查詢多個知識圖譜。如已有基于 neo4j 的知識圖譜,可刪除 docker-compose.yml
中的 graph
配置項,并修改 api.environment
中的 NEO4J_URI
為您的 neo4j 服務地址。
? 常見問題
鏡像下載問題
如無法直接下載相關鏡像,可參考 DaoCloud/public-image-mirror,嘗試替換前綴:
# 以 neo4j 為例,其余類似
docker pull m.daocloud.io/docker.io/library/neo4j:latest# 然后重命名鏡像
docker tag m.daocloud.io/docker.io/library/neo4j:latest neo4j:latest