1 簡介

• 書生·浦語 InternLM介紹
  InternLM 是在過萬億 token 數(shù)據上訓練的多語千億參數(shù)基座模型。通過多階段的漸進式訓練，InternLM 基座模型具有較高的知識水平，在中英文閱讀理解、推理任務等需要較強思維能力的場景下性能優(yōu)秀，在多種面向人類設計的綜合性考試中表現(xiàn)突出。在此基礎上，通過高質量的人類標注對話數(shù)據結合 RLHF 等技術，使得 InternLM 可以在與人類對話時響應復雜指令，并且表現(xiàn)出符合人類道德與價值觀的回復

• 2024.1.17 InternLM V2.0 已經升級成為v2.0 （筆記更新時間2024.4）

• 重要鏈接匯總
  官方github地址 | 官方網址 | 【模型中心-OpenXLab 實戰(zhàn)營優(yōu)秀項目】 | 常見問題QA

2 內容

（1）書生浦語大模型發(fā)展歷程

（2）體系

（3）亮點

主要表現(xiàn)在：

（4）全鏈路體系構建

a.數(shù)據

萬卷 ： 官方地址

上海人工智能實驗室（上海AI實驗室）于2023年8月14日宣布開源發(fā)布“書生·萬卷” 1.0多模態(tài)預訓練語料。
據了解，“書生·萬卷”的主要構建團隊——OpenDataLab旨在建設面向人工智能開發(fā)者的超大規(guī)模、高質量、多模態(tài)開放數(shù)據服務平臺，致力于打造國內公開數(shù)據資源的基礎建設。
目前，該平臺已建立共享的多模態(tài)數(shù)據集5500個，涵蓋超過1萬億token文本語料、60億張圖像、8億個視頻片段和100萬個3D模型。

b 預訓練

c 微調

xtuner

d 評測

• 重要鏈接和地址
  司南OpenCompass2.0評測體系官網：https://opencompass.org.cn/
  GitHub主頁：https://github.com/open-compass/OpenCompass/

• 本次發(fā)布的OpenCompass2.0，首次推出支撐大模型評測的“鐵三角”：
  權威評測榜單CompassRank
  高質量評測基準社區(qū)CompassHub
  評測工具鏈體系CompassKit

基于全新升級的能力體系和工具鏈，OpenCompass2.0構建了一套高質量的中英文雙語評測基準，涵蓋語言與理解、常識與邏輯推理、數(shù)學計算與應用、多編程語言代碼能力、智能體、創(chuàng)作與對話等多個方面對大模型進行評測分析。通過高質量、多層次的綜合性能力評測基準，OpenCompass2.0創(chuàng)新了多項能力評測方法，實現(xiàn)了對模型真實能力的全面診斷。

• CompassRank：中立全面的性能榜單

作為OpenCompass2.0中各類榜單的承載平臺，CompassRank不受任何商業(yè)利益干擾，保持中立性。同時，依托CompassKit工具鏈體系中的各類評測手段，保證了CompassRank的客觀性。CompassRank不僅覆蓋多領域、多任務下的模型性能，還將定期更新，提供動態(tài)的行業(yè)洞察。與此同時，OpenCompass團隊將在榜單中提供專業(yè)解讀，進一步幫助從業(yè)者理解技術深意，優(yōu)化模型選擇。

CompassRank 榜單地址：https://rank.opencompass.org.cn/home

• CompassHub：高質量評測基準社區(qū)

CompassHub是面向大模型能力評測開源開放的基準社區(qū)，提供海量的面向不同能力維度和行業(yè)場景的評測基準。OpenCompass2.0歡迎評測用戶在CompassHub上傳各自構建的高質量評測基準，發(fā)布相應的性能榜單，匯聚社區(qū)力量助力大模型社區(qū)整體快速發(fā)展。

CompassHub社區(qū)地址：https://hub.opencompass.org.cn/home

• CompassKit：大模型評測全棧工具鏈

OpenCompass2.0對廣受歡迎的初代評測工具庫進行了全面優(yōu)化，推出大模型評測全棧工具鏈CompassKit，不僅提供完整的開源可復現(xiàn)評測代碼，更提供了豐富的模型支持和高效的分布式評測策略。

CompassKit工具鏈地址：https://github.com/open-compass

CompassKit中包含：

? OpenCompass升級版大語言模型評測工具：提供全面的大模型評測功能，包括廣泛模型支持、高效評測速度、主觀評測能力、數(shù)據污染檢查和豐富的長文本評測能力。

? VLMEvalKit多模態(tài)大模型評測工具：一站式多模態(tài)評測工具，支持主流多模態(tài)模型和數(shù)據集，助力社區(qū)比較不同多模態(tài)模型在各種任務上的性能。

? Code-Evaluator代碼評測服務工具：提供基于docker的統(tǒng)一編程語言評測環(huán)境，確保代碼能力評測的穩(wěn)定性和可復現(xiàn)性。

? MixtralKit MoE模型入門工具：為MoE模型初學者提供學習資料、模型架構解析、推理與評測教程等入門工具。

e.模型部署

f.agent 智能體

agentlego ： 多功能、多模態(tài)的AI工具箱

3 相關論文解讀

InternLM2 技術報告： https://arxiv.org/pdf/2403.17297.pdf

通義千問 - 文檔解讀

• 摘要翻譯：
  隨著諸如ChatGPT和GPT-4這樣的大型語言模型（LLMs）的發(fā)展，引發(fā)了關于通用人工智能（AGI）到來的討論。然而，在開源模型中復制此類進展頗具挑戰(zhàn)性。本文介紹了一款名為InternLM2的開源LLM，它通過創(chuàng)新的預訓練和優(yōu)化技術，在六個維度、三十個基準測試以及長程建模和開放式主觀評估方面超越了其前身。InternLM2的預訓練過程詳盡闡述，突出了包括文本、代碼及長程數(shù)據在內的多種數(shù)據類型的準備。該模型在預訓練和微調階段初始以4k令牌進行訓練，隨后提升至32k令牌，展現(xiàn)出在20萬字符級別的“大海撈針”測試中的卓越性能。進一步地，通過監(jiān)督精細調整（Supervised Fine-Tuning, SFT）和新穎的基于人類反饋的條件在線強化學習策略（Conditional Online Reinforcement Learning from Human Feedback, COOL RLHF），InternLM2解決了人類偏好沖突和獎勵破解問題，并實現(xiàn)了對模型的校準。通過發(fā)布不同訓練階段和模型規(guī)模的InternLM2模型，我們?yōu)樯鐓^(qū)提供了有關模型演進的深入見解。

• 各標題內容翻譯：
  1.引言
  討論大型語言模型的進步與開源領域面臨的挑戰(zhàn)，引出InternLM2模型的推出及其優(yōu)勢。
  2.基礎設施
  描述InternLM2的研發(fā)基礎設施，如InternEvo平臺和模型結構設計。
  3.預訓練
  細致說明預訓練數(shù)據的來源與處理，包括文本數(shù)據、代碼數(shù)據和長程上下文數(shù)據的準備。
  4.性能評估與分析

提供全面的語言模型在多個領域和任務上的表現(xiàn)評估與分析。
a.下游任務性能
b.全面評估：在一系列涵蓋人文科學、社會科學、STEM等多個學科領域的多選題數(shù)據集（如MMLU）上進行基準測試。
c.語言與知識應用
d.推理與數(shù)學能力驗證：涉及WinoGrande、HellaSwag和BigBench Hard等推理與數(shù)學相關的多項選擇題數(shù)據集。
e.多編程語言編碼能力
f.長程建模性能
g.工具利用能力

• 文檔內容相關亮點與優(yōu)點分析：

InternLM2模型的主要亮點在于：

(1) 開源性：作為一款開源LLM，InternLM2在各種綜合評測和基準測試中表現(xiàn)出優(yōu)于前代模型的能力，這有利于學術界和產業(yè)界共同推進AI技術的發(fā)展和應用。
(2)預訓練技術創(chuàng)新：采用多樣化的預訓練數(shù)據類型，并有效捕捉長程依賴關系，提升了模型在長文本理解和生成、跨領域知識運用等方面的表現(xiàn)。
(3)強化學習與校準：通過SFT和COOL RLHF策略對模型進行進一步校準，解決了大規(guī)模預訓練模型在處理復雜情境下的人類偏好表達和獎勵機制安全問題。
(4)表現(xiàn)優(yōu)異：在閱讀理解、開放域問答、多語言翻譯等多種NLP下游任務上取得突出成績，顯示出強大的語言理解和知識應用能力。

• 這篇技術報告的主要貢獻有兩個方面：

1.開源高性能的InternLM2模型：團隊發(fā)布了各種規(guī)模的InternLM2模型，包括1.8B、7B和20B參數(shù)量級的版本，并且這些模型在主觀和客觀評價中均表現(xiàn)出色。為了便于社區(qū)分析SFT（監(jiān)督微調）和RLHF（基于人類反饋的強化學習）訓練階段的變化，他們還提供了不同訓練階段的模型版本。

2.針對長上下文場景的設計與實踐：InternLM2針對長序列上下文信息處理進行了特別優(yōu)化，能夠在一個200k的上下文窗口中近乎完美地識別“Needle-in-a-Haystack”測試中的目標元素。研究人員詳盡介紹了在整個預訓練、SFT以及RLHF各個階段訓練長上下文LLM的經驗和方法。

3.全面的數(shù)據準備指南：團隊詳細記錄了為LLM準備不同類型數(shù)據的過程，包括預訓練數(shù)據、領域特異性增強數(shù)據、SFT數(shù)據以及RLHF數(shù)據，這將有助于社區(qū)更有效地訓練大型語言模型。

通過上述貢獻，InternLM2項目不僅展示了在眾多基準任務上的優(yōu)越性能，而且為如何分階段地進行大規(guī)模語言模型的研發(fā)提供了一套完整的解決方案。

4 ref

1.書生·浦語大模型全鏈路開源開放體系(視頻)
2.一文讀懂司南大模型評測體系OpenCompass
3.通義千問