自用筆記

1. 統(tǒng)計(jì)學(xué)習(xí)的定義與分類

1.1 統(tǒng)計(jì)學(xué)習(xí)的概念

統(tǒng)計(jì)學(xué)習(xí)（Statistical Machine Learning）是關(guān)于計(jì)算機(jī)基于數(shù)據(jù)構(gòu)建概率統(tǒng)計(jì)模型并運(yùn)用模型對數(shù)據(jù)進(jìn)行預(yù)測與分析的一門學(xué)科。

• 以計(jì)算機(jī)和網(wǎng)絡(luò)為平臺；
• 以數(shù)據(jù)為研究對象；
• 以預(yù)測和分析數(shù)據(jù)為目的；
• 以方法為中心；
• 是多領(lǐng)域交叉的學(xué)科。

統(tǒng)計(jì)學(xué)習(xí)方法的步驟：

• 得到一個(gè)有限的訓(xùn)練集；
• 確定學(xué)習(xí)模型的集合（又叫假設(shè)空間）————模型；
• 確定模型選擇的準(zhǔn)則————算法；
• 實(shí)現(xiàn)求解最優(yōu)模型的算法————算法；
• 通過學(xué)習(xí)方法選擇最優(yōu)模型；
• 利用學(xué)習(xí)的最優(yōu)模型對新數(shù)據(jù)進(jìn)行預(yù)測或分析（將想要預(yù)測的數(shù)據(jù)代入到最優(yōu)模型里面進(jìn)行預(yù)測和分析）。
  

1.2 統(tǒng)計(jì)學(xué)習(xí)的分類

參數(shù)化模型適用于簡單問題，非參數(shù)化模型適用于復(fù)雜問題。

在線學(xué)習(xí)，每次接收一個(gè)樣本，然后學(xué)習(xí)，不斷重復(fù)。
批量學(xué)習(xí)，一次接收一個(gè)批量，然后學(xué)習(xí)進(jìn)行預(yù)測。