想做一個什么樣的網(wǎng)站衡水seo優(yōu)化
上次已經(jīng)裝好了所有的依賴和程序。
下面在網(wǎng)頁中配置One API ,這個是大模型的接口。配置好了之后,就可以配置fastGPT了。
打開 OneAPI 頁面 添加模型
這里要添加具體的付費模型的API接口填進來。
可以通過ip:3001訪問OneAPI后臺,**默認賬號為root密碼為123456。**在OneApi中添加合適的AI大模型渠道。 比如我用質譜AI的API。
第一次進入,先改密碼。
創(chuàng)建渠道 也就是質譜AI的渠道 API KEY 添加進去
添加渠道,也就是添加模型 和接口。
這里,比如我想添加GLM質譜AI的大模型,那么就去官網(wǎng)找到這個。找到具體的模型名字。因為我是用作 AI聊天客服,應對日常咨詢。因此不需要強大的推理,而是需要急速回答,和便宜。
https://www.bigmodel.cn/pricing
找到以上的就可以了,向量模型用來處理文本,和知識庫的信息。所以要一同加入。
注意,這里要手動填入模型的完整名字哦。否則列表中可能沒有。 有些新的模型版本,需要自己填寫。
然后在你的大模型網(wǎng)站上,找到API KEY 粘貼進去,就可以了。 每次就會扣費了。
測試一下,這里通過了,表示模型已經(jīng)就位。 可以調用了。
創(chuàng)建ONE API的令牌
創(chuàng)建令牌 其實也就是ONE API 的KEY 用于給fastGPT調用。
創(chuàng)建了新的令牌TOKEN之后,你就能復制它了,就是一串密鑰sk開頭的
然后fastGPT通過這個,來調用你的ONE API上的接口。 從而扣費。 這樣就能實現(xiàn)對個人的管理了。 你可以通過ONE API來多給別人建立幾個TOKEN ,每個人單獨扣費。你能在后臺看到他們的費用情況。
當然,您只是自己用,就隨便。 給自己隨便填寫一個額度。使勁用就行。 保證您的大模型接口上有錢就行。
修改ONE API配置文件 添加參數(shù)
找到上一篇文章中的/fastgpt/docker-compose.yml 這個文件,修改下面的參數(shù)。 把你的ONE API得到的token粘貼進去。
好了,sk-xxxxxxXU73hQgQ6DaB01601610e41B992995cD929C6C4Ec,我的是這樣的。
把oneapi,改成你的 ip。 把 ip填進去替換oneapi就行,其它的不用改
修改FastGPT配置文件 向其中添加模型信息
然后在去修改另一文件。/fastgpt/config.json
為fastGPT添加新模型GLM-4-AirX ,這個是和我們前面ONE API里加入的名字要一致。
{"provider": "ZhiPu","model": "GLM-4-AirX", // 新添加的模型"name": "GLM-4-AirX","maxContext": 8000, // 你可以根據(jù)需要設置最大上下文"maxResponse": 4000, // 最大回復"quoteMaxToken": 8000,// 最大引用內容"maxTemperature": 1,// 最大溫度"charsPointsPrice": 0.01, // n積分/1k token(商業(yè)版)"censor": false,// 是否開啟敏感校驗(商業(yè)版)"vision": false,// 是否支持圖片輸入"datasetProcess": true,"usedInClassify": true,"usedInExtractFields": true,"usedInToolCall": true,"usedInQueryExtension": true,"toolChoice": true,"functionCall": false,"customCQPrompt": "","customExtractPrompt": "","defaultSystemChatPrompt": "","defaultConfig": {"top_p": 0.7 },// 請求API時,挾帶一些默認配置(比如 GLM4 的 top_p)"fieldMap": {}}
添加向量模型
{"provider": "ZhiPu","model": "embedding-2", // 模型名(與OneAPI對應)"name": "embedding-2", // 模型展示名"charsPointsPrice":0.0005, // n積分/1k token"defaultToken": 700, // 默認文本分割時候的 token"maxToken": 3000, // 最大 token"weight": 100, // 優(yōu)先訓練權重"defaultConfig": {} // 自定義額外參數(shù)。例如,如果希望使用 embedding3-large 的話,可以傳入 dimensions:1024,來返回1024維度的向量。(目前必須小于1536維度)}
特別要注意的是,這個名子的大小寫,千萬不要寫錯了。 它一會兒大寫一會兒小寫。 錯了的話,就找不到接口。報錯了。
好了。然后在寶塔面板中,重啟這兩個docker
ok,搞定了,下面就是去配置FastGPT了。 下一篇文章見~。