本文重點

本節(jié)課程我們將學(xué)習(xí)一種新的大規(guī)模的機器學(xué)習(xí)機制--在線學(xué)習(xí)機制。在線學(xué)習(xí)機制讓我們可以模型化問題。在線學(xué)習(xí)算法指的是對數(shù)據(jù)流進行學(xué)習(xí)而非離線的靜態(tài)數(shù)據(jù)集的學(xué)習(xí)。許多在線網(wǎng)站都有持續(xù)不斷的用戶流，對于每一個用戶，網(wǎng)站希望能在不將數(shù)據(jù)存儲到數(shù)據(jù)庫中便順利地進行算法學(xué)習(xí)。

貨物網(wǎng)站的例子

在貨物網(wǎng)站中，用戶們輸入郵寄包裹的出發(fā)地和目的地，網(wǎng)站會動態(tài)生成價格，此時用戶可能會同意郵寄（y=1），或者拒絕郵寄（y=0），這個可以作為樣本的標(biāo)簽。

樣本的特征除了出發(fā)地和目的地之外，我們還可以選擇一些其它的特征，比如：郵遞距離以及特定的用戶數(shù)據(jù)?，F(xiàn)在，我們希望構(gòu)建一個模型，來預(yù)測用戶接受報價使用網(wǎng)站的物流服務(wù)的可能性，模型的輸出是 p(y=1)。

我們的網(wǎng)站會一直保持在線學(xué)習(xí)。在線學(xué)習(xí)的算法與隨機梯度下降算法有些類似，我們對單一的實例進行學(xué)習(xí)，而非對一個提前定義的訓(xùn)練集進行循環(huán)。

只要有用戶訪問網(wǎng)站，就會得到數(shù)據(jù)（x，y），x表示一些特征（起始地點，終點，價格），y表示是否郵寄（0，1），獲取到這個之后，我們要做的就是更新θ，然后這個樣本的任務(wù)就完成了，我們就丟棄這個樣本。

這