:::info 本文是“在Serverless平臺上構(gòu)建AIGC應(yīng)用”系列文章的第一篇文章。 :::

前言

隨著ChatGPT 以及 Stable Diffusion,Midjourney 這些新生代 AIGC 應(yīng)用的興起，圍繞AIGC應(yīng)用的相關(guān)開發(fā)變得越來越廣泛，有呈井噴之勢，從長遠(yuǎn)看這波應(yīng)用的爆發(fā)不僅僅是停留在形式之上，更是在各個領(lǐng)域產(chǎn)生實際的生產(chǎn)力價值，比如辦公領(lǐng)域有copilot system 365,釘釘智能； 代碼編程領(lǐng)域有 github copilot ,cursor ide; 文娛領(lǐng)域的妙鴨相機(jī)；可以肯定的是未來 AIGC 的應(yīng)用數(shù)量會更多，類型也會更加豐富，企業(yè)的內(nèi)部軟件或者SOP都會盡可能的跟AI進(jìn)行融合，這必然催生出海量的AIGC應(yīng)用開發(fā)需求，這也代表著巨大的市場機(jī)會。

開發(fā) AIGC 應(yīng)用的挑戰(zhàn)

AIGC 的應(yīng)用前景如此誘人，可能決定企業(yè)未來的發(fā)展走向。然而對很多中小企業(yè)及開發(fā)者而言，上手進(jìn)行aigc應(yīng)用的開發(fā)依然有著非常高昂的成本：

• 基礎(chǔ)模型服務(wù)的獲取：chatgpt提供了非常完善的api 開發(fā)體系，然而并不開放給國內(nèi)客戶使用，開源的模型進(jìn)行服務(wù)的部署非常困難
• 高昂的費(fèi)用， GPU 短缺導(dǎo)致 GPU 的費(fèi)用急劇飆升，本地購買高規(guī)格顯卡需要一次性花費(fèi)不少的成本，并且并不能提供在線服務(wù)。
• 端到端的對接：單純模型服務(wù)的api無法變成直接的生產(chǎn)力，需要完成【企業(yè)數(shù)據(jù)&企業(yè)SOP】-> LLM 服務(wù) -> 各種端側(cè)的完整鏈路

函數(shù)計算AIGC應(yīng)用的解決方案

函數(shù)計算圍繞創(chuàng)建和使用AIGC，從基礎(chǔ)設(shè)施到應(yīng)用生態(tài)，開發(fā)端到使用端提供的完整的配套

主要包含三個部分：

• 一 、模型服務(wù)底座，函數(shù)計算可以部署來自魔搭，huggingface等開元社區(qū)的ai模型，我們針對 LLM， Bert等智能知識庫/助手 場景做了專門的定制，接入OpenAI兼容的api規(guī)范，提供一鍵部署的模版和可視化的web訪問界面，幫助開發(fā)者或者企業(yè)快速上手 llama2,chatglm2,通義千問等模型的部署
• 二、業(yè)務(wù)連接層 ，串聯(lián)業(yè)務(wù)需求以及的模型服務(wù)，安全服務(wù)，數(shù)據(jù)庫服務(wù)等基礎(chǔ)資源，這部分有在AIGC應(yīng)用部分有很多相同的邏輯，比如賬號體系，數(shù)據(jù)集管理，提示詞模版，工具管理，模型服務(wù)管理等，從各業(yè)務(wù)側(cè)視角看，不一樣的部分只是 提示詞，知識庫以及工具集，底層的模型服務(wù)，安全服務(wù)，數(shù)據(jù)庫服務(wù)則是共享的，這層可以簡化業(yè)務(wù)里面構(gòu)建不同智能場景的流程，快速，低成本的可以構(gòu)建不同業(yè)務(wù)的AIGC應(yīng)用
• 三、客戶端側(cè)，客戶端是AI應(yīng)用的使用部分，也是最接近業(yè)務(wù)的部分，這部分更多的考慮是如何將AI服務(wù)融入已有的使用端，比如釘釘，企業(yè)微信等辦公I(xiàn)M系統(tǒng)，以及web瀏覽器插件等，通過 函數(shù)計算+eventbridge可以快速幫助ai服務(wù)接入到這些客戶端

本篇教程先來分享一下第一個部分，如何通過函數(shù)計算快速部署 AIGC相關(guān)模型服務(wù)包括LLM模型 和Embedding(Bert) 模型

LLM模型及Embedding服務(wù)部署教程

前期準(zhǔn)備

使用該項目，您需要有開通以下服務(wù)：

對 AIGC 進(jìn)行 CPU/GPU 推理計算
https://free.aliyun.com/?pipCode=fc

存儲大語言模型以及Embedding服務(wù)所需要的模型, 新用戶請先領(lǐng)取免費(fèi)試用資源包
https://free.aliyun.com/?product=9657388&crowd=personal

應(yīng)用介紹

應(yīng)用詳情

使用阿里云函數(shù)計算部署開源大模型應(yīng)用，提供兼容openai規(guī)范的接口和ChatGPT-Next-Web客戶端.

操作文檔

llm應(yīng)用模版

登錄到阿里云函數(shù)計算控制臺->應(yīng)用->創(chuàng)建應(yīng)用-> 人工智能 選擇AI大語言模型API服務(wù)應(yīng)用模板點擊"立即創(chuàng)建"

應(yīng)用模版設(shè)置

設(shè)置好知道點擊"創(chuàng)建并部署默認(rèn)環(huán)境"

等待部署

該過程您會自動完成

服務(wù)訪問

服務(wù)部署成功之后會返回兩個鏈接
1、llm-server 為大語言模型的api服務(wù)界面，基于swagger，

2、llm-client則是訪問客戶端,訪問客戶端需要您輸入前面填寫的客戶端私有密碼，填寫好之后就可以測試使用了

embedding模版

登錄到阿里云函數(shù)計算控制臺->應(yīng)用->創(chuàng)建應(yīng)用-> 人工智能 選擇“開源Bert模型服務(wù)”應(yīng)用模板點擊"立即創(chuàng)建"

應(yīng)用模版設(shè)置

選擇好地域創(chuàng)建即可

等待部署

該過程您會自動完成

服務(wù)訪問

測試embedding接口

總結(jié)

部署好LLM服務(wù)意味著您已經(jīng)開啟了AIGC應(yīng)用的開發(fā)旅程，接下來我會繼續(xù)跟大家分享更多關(guān)于AIGC相關(guān)的內(nèi)容，包括如何構(gòu)建知識庫問答應(yīng)用，如何調(diào)用工具完善大語言模型的能力，如何接入自己的IM系統(tǒng)和構(gòu)建web的集成插件。

宇宙漫游，阿里云 x 森馬 AIGC T恤設(shè)計大賽

一、

**【森馬X阿里云 AIGC T恤設(shè)計大賽】**程序員AIGC 自己的T恤，贏Airpods，圖案定制T恤！
通過函數(shù)計算FC 快捷部署 Stable Diffusion：內(nèi)置模型庫+常用插件+ControlNet，支持 SDXL1.0

立即參加：https://developer.aliyun.com/adc/series/activity/aigc_design
可贏取Airpods三代，作品定制聯(lián)名體恤，森馬行李箱等周邊！

二、

還可以參加話題活動，一起討論 AIGC 的未來發(fā)展趨勢，用戶可從任意角度交流分享，可以贏得護(hù)眼臺燈、數(shù)據(jù)線、靜音凈化器獎品！
話題：《相比優(yōu)秀的服裝設(shè)計師，AIGC 可以如何突破設(shè)計靈感的界限？是純粹的機(jī)械語言還是一點點的靈光乍現(xiàn)？》
https://developer.aliyun.com/ask/548537?spm=a2c6h.13148508.setting.14.4a894f0esFcznR