1. 注冊(cè)與認(rèn)證

• 訪問AutoDL官網(wǎng)：前往 AutoDL官網(wǎng)。

• 注冊(cè)賬號(hào)：完成注冊(cè)流程。

• 實(shí)名認(rèn)證：按照要求完成實(shí)名認(rèn)證，以確保賬號(hào)的合規(guī)性。

---

2. 選擇GPU資源

• 進(jìn)入算力市場(chǎng)：在官網(wǎng)首頁點(diǎn)擊“算力市場(chǎng)”菜單。

• 挑選GPU：根據(jù)需求選擇合適的GPU資源，例如NVIDIA RTX 4090等。

• 查看配置：確保所選GPU資源的性能滿足訓(xùn)練需求。

---

3. 創(chuàng)建實(shí)例

• 配置實(shí)例：點(diǎn)擊所選GPU進(jìn)入“創(chuàng)建實(shí)例”頁面。

• 選擇鏡像：選取包含深度學(xué)習(xí)環(huán)境的鏡像，避免后續(xù)手動(dòng)配置訓(xùn)練環(huán)境。

• 完成創(chuàng)建：配置完成后，啟動(dòng)實(shí)例。

---

4. 初始化環(huán)境

• 進(jìn)入JupyterLab：實(shí)例啟動(dòng)后，通過平臺(tái)的JupyterLab快捷工具進(jìn)入。

• 打開終端：在JupyterLab界面點(diǎn)擊“終端”。

---

5. 配置網(wǎng)絡(luò)加速（可選）

在終端中輸入以下代碼進(jìn)行學(xué)術(shù)資源加速：

source /etc/network_turbo

---

6. 克隆LLaMA-Factory項(xiàng)目

• 克隆項(xiàng)目代碼：

  git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

  （--depth 1 參數(shù)用于淺拷貝，僅獲取最新代碼，節(jié)省時(shí)間和空間）

---

7. 創(chuàng)建并激活虛擬環(huán)境

• 創(chuàng)建虛擬環(huán)境：

  conda create -n llama_factory python=3.10

• 初始化conda：

  source /root/miniconda3/etc/profile.d/conda.sh

• 激活環(huán)境：

  conda activate llama_factory

---

8. 安裝依賴

• 進(jìn)入項(xiàng)目目錄：

  cd LLaMA-Factory

• 安裝所需庫：

  pip install -r requirements.txt

• 安裝擴(kuò)展依賴：

  pip install -e ".[torch,metrics]"

• 安裝ModelScope庫：

  pip install modelscope -U

---

9. 下載預(yù)訓(xùn)練模型

• 新建Python文件，用于下載預(yù)訓(xùn)練模型。以下是一個(gè)示例代碼：

  from modelscope import snapshot_downloadmodel_path = "Qwen/Qwen-7B-Chat"  # 阿里通義千問7B-chat模型
  cache_path = "/root/autodl-tmp"   # 模型緩存路徑snapshot_download(model_path, cache_dir=cache_path)

• 運(yùn)行下載腳本：

  python download.py

---

10. 啟動(dòng)微調(diào)平臺(tái)UI界面

在終端中輸入以下代碼，使用GPU開啟微調(diào)平臺(tái)的UI界面：

CUDA_VISIBLE_DEVICES=0 python src/webui.py &

---

11. 微調(diào)模型

• 進(jìn)入WebUI界面：通過瀏覽器訪問微調(diào)平臺(tái)的UI界面。（可提前下載SSH工具代理到本地端口https://autodl-public.ks3-cn-beijing.ksyuncs.com/tool/AutoDL-SSH-Tools.zip）

• 選擇模型：在WebUI中選擇已下載的預(yù)訓(xùn)練模型（如通義千問7B-chat）。

• 配置微調(diào)參數(shù)：根據(jù)需求設(shè)置微調(diào)的超參數(shù)（如學(xué)習(xí)率、批次大小、訓(xùn)練輪數(shù)等）。

• 開始微調(diào)：點(diǎn)擊“開始微調(diào)”按鈕，啟動(dòng)微調(diào)過程。

---

12. 測(cè)試與驗(yàn)證

• 加載微調(diào)后的模型：在WebUI中加載微調(diào)后的模型。

• 進(jìn)行對(duì)話測(cè)試：通過輸入測(cè)試問題，驗(yàn)證模型的對(duì)話能力是否滿足預(yù)期。

---

13. 保存與導(dǎo)出

• 保存微調(diào)模型：將微調(diào)后的模型保存到指定路徑。

• 導(dǎo)出模型：根據(jù)需要導(dǎo)出模型文件，用于后續(xù)部署或進(jìn)一步優(yōu)化。