自用筆記

1. 統(tǒng)計學習的定義與分類

1.1 統(tǒng)計學習的概念

統(tǒng)計學習（Statistical Machine Learning）是關于計算機基于數(shù)據(jù)構建概率統(tǒng)計模型并運用模型對數(shù)據(jù)進行預測與分析的一門學科。

• 以計算機和網(wǎng)絡為平臺；
• 以數(shù)據(jù)為研究對象；
• 以預測和分析數(shù)據(jù)為目的；
• 以方法為中心；
• 是多領域交叉的學科。

統(tǒng)計學習方法的步驟：

• 得到一個有限的訓練集；
• 確定學習模型的集合（又叫假設空間）————模型；
• 確定模型選擇的準則————算法；
• 實現(xiàn)求解最優(yōu)模型的算法————算法；
• 通過學習方法選擇最優(yōu)模型；
• 利用學習的最優(yōu)模型對新數(shù)據(jù)進行預測或分析（將想要預測的數(shù)據(jù)代入到最優(yōu)模型里面進行預測和分析）。
  

1.2 統(tǒng)計學習的分類

參數(shù)化模型適用于簡單問題，非參數(shù)化模型適用于復雜問題。

在線學習，每次接收一個樣本，然后學習，不斷重復。
批量學習，一次接收一個批量，然后學習進行預測。