1. 神經(jīng)網(wǎng)絡與未來智能

2. 回顧數(shù)據(jù)維度和神經(jīng)網(wǎng)絡

循環(huán)神經(jīng)網(wǎng)絡，主要用來處理時序的數(shù)據(jù)，它對每個詞的順序是有要求的。

循環(huán)神經(jīng)網(wǎng)絡如何保存記憶功能？

當前樣本只有 3 個特征，即 $x_1$、 $x_2$、 $x_3$、

上圖中，第一個神經(jīng)元 $h_0$，一次只讀了一個詞 $x_1$。由于是第一個，那么 $h_0$ 可以理解為應該是 0，然后求 $h_1$

然后中間的圖，讀取第二個詞 $x_2$，

在第三個神經(jīng)元中可以看出，output=fn(w3x3+u3h2)，可以看出，神經(jīng)元 $h_2$，不僅受當前特征 $x_3$ 的影響，還受第一個特征 $x_1$ 和第二個特征 $x_2$ 的影響，這就是我們所說的 記憶功能。

動圖如下：