vr 全景 網(wǎng)站建設/廣州搜索排名優(yōu)化
:::info 本文是“在Serverless平臺上構建AIGC應用”系列文章的第一篇文章。 :::
前言
隨著ChatGPT 以及 Stable Diffusion,Midjourney 這些新生代 AIGC 應用的興起,圍繞AIGC應用的相關開發(fā)變得越來越廣泛,有呈井噴之勢,從長遠看這波應用的爆發(fā)不僅僅是停留在形式之上,更是在各個領域產(chǎn)生實際的生產(chǎn)力價值,比如辦公領域有copilot system 365,釘釘智能; 代碼編程領域有 github copilot ,cursor ide; 文娛領域的妙鴨相機;可以肯定的是未來 AIGC 的應用數(shù)量會更多,類型也會更加豐富,企業(yè)的內(nèi)部軟件或者SOP都會盡可能的跟AI進行融合,這必然催生出海量的AIGC應用開發(fā)需求,這也代表著巨大的市場機會。
開發(fā) AIGC 應用的挑戰(zhàn)
AIGC 的應用前景如此誘人,可能決定企業(yè)未來的發(fā)展走向。然而對很多中小企業(yè)及開發(fā)者而言,上手進行aigc應用的開發(fā)依然有著非常高昂的成本:
- 基礎模型服務的獲取:chatgpt提供了非常完善的api 開發(fā)體系,然而并不開放給國內(nèi)客戶使用,開源的模型進行服務的部署非常困難
- 高昂的費用, GPU 短缺導致 GPU 的費用急劇飆升,本地購買高規(guī)格顯卡需要一次性花費不少的成本,并且并不能提供在線服務。
- 端到端的對接:單純模型服務的api無法變成直接的生產(chǎn)力,需要完成【企業(yè)數(shù)據(jù)&企業(yè)SOP】-> LLM 服務 -> 各種端側的完整鏈路
函數(shù)計算AIGC應用的解決方案
函數(shù)計算圍繞創(chuàng)建和使用AIGC,從基礎設施到應用生態(tài),開發(fā)端到使用端提供的完整的配套
主要包含三個部分:
- 一 、模型服務底座,函數(shù)計算可以部署來自魔搭,huggingface等開元社區(qū)的ai模型,我們針對 LLM, Bert等智能知識庫/助手 場景做了專門的定制,接入OpenAI兼容的api規(guī)范,提供一鍵部署的模版和可視化的web訪問界面,幫助開發(fā)者或者企業(yè)快速上手 llama2,chatglm2,通義千問等模型的部署
- 二、業(yè)務連接層 ,串聯(lián)業(yè)務需求以及的模型服務,安全服務,數(shù)據(jù)庫服務等基礎資源,這部分有在AIGC應用部分有很多相同的邏輯,比如賬號體系,數(shù)據(jù)集管理,提示詞模版,工具管理,模型服務管理等,從各業(yè)務側視角看,不一樣的部分只是 提示詞,知識庫以及工具集,底層的模型服務,安全服務,數(shù)據(jù)庫服務則是共享的,這層可以簡化業(yè)務里面構建不同智能場景的流程,快速,低成本的可以構建不同業(yè)務的AIGC應用
- 三、客戶端側,客戶端是AI應用的使用部分,也是最接近業(yè)務的部分,這部分更多的考慮是如何將AI服務融入已有的使用端,比如釘釘,企業(yè)微信等辦公IM系統(tǒng),以及web瀏覽器插件等,通過 函數(shù)計算+eventbridge可以快速幫助ai服務接入到這些客戶端
本篇教程先來分享一下第一個部分,如何通過函數(shù)計算快速部署 AIGC相關模型服務包括LLM模型 和Embedding(Bert) 模型
LLM模型及Embedding服務部署教程
前期準備
使用該項目,您需要有開通以下服務:
對 AIGC 進行 CPU/GPU 推理計算
https://free.aliyun.com/?pipCode=fc存儲大語言模型以及Embedding服務所需要的模型, 新用戶請先領取免費試用資源包
https://free.aliyun.com/?product=9657388&crowd=personal
應用介紹
應用詳情
使用阿里云函數(shù)計算部署開源大模型應用,提供兼容openai規(guī)范的接口和ChatGPT-Next-Web客戶端.
操作文檔
llm應用模版
登錄到阿里云函數(shù)計算控制臺->應用->創(chuàng)建應用-> 人工智能 選擇AI大語言模型API服務應用模板點擊"立即創(chuàng)建"
應用模版設置
設置好知道點擊"創(chuàng)建并部署默認環(huán)境"
等待部署
該過程您會自動完成
服務訪問
服務部署成功之后會返回兩個鏈接
1、llm-server 為大語言模型的api服務界面,基于swagger,
2、llm-client則是訪問客戶端,訪問客戶端需要您輸入前面填寫的客戶端私有密碼,填寫好之后就可以測試使用了
embedding模版
登錄到阿里云函數(shù)計算控制臺->應用->創(chuàng)建應用-> 人工智能 選擇“開源Bert模型服務”應用模板點擊"立即創(chuàng)建"
應用模版設置
選擇好地域創(chuàng)建即可
等待部署
該過程您會自動完成
服務訪問
測試embedding接口
總結
部署好LLM服務意味著您已經(jīng)開啟了AIGC應用的開發(fā)旅程,接下來我會繼續(xù)跟大家分享更多關于AIGC相關的內(nèi)容,包括如何構建知識庫問答應用,如何調(diào)用工具完善大語言模型的能力,如何接入自己的IM系統(tǒng)和構建web的集成插件。
宇宙漫游,阿里云 x 森馬 AIGC T恤設計大賽
一、
**【森馬X阿里云 AIGC T恤設計大賽】**程序員AIGC 自己的T恤,贏Airpods,圖案定制T恤!
通過函數(shù)計算FC 快捷部署 Stable Diffusion:內(nèi)置模型庫+常用插件+ControlNet,支持 SDXL1.0
立即參加:https://developer.aliyun.com/adc/series/activity/aigc_design
可贏取Airpods三代,作品定制聯(lián)名體恤,森馬行李箱等周邊!
二、
還可以參加話題活動,一起討論 AIGC 的未來發(fā)展趨勢,用戶可從任意角度交流分享,可以贏得護眼臺燈、數(shù)據(jù)線、靜音凈化器獎品!
話題:《相比優(yōu)秀的服裝設計師,AIGC 可以如何突破設計靈感的界限?是純粹的機械語言還是一點點的靈光乍現(xiàn)?》
https://developer.aliyun.com/ask/548537?spm=a2c6h.13148508.setting.14.4a894f0esFcznR