一、論文信息

論文名稱：Dynamic Filter Networks

作者團(tuán)隊：NIPS2016

?二、動機與創(chuàng)新

1. 卷積層是通過將上一層的特征映射與一組過濾器進(jìn)行卷積計算輸出特征映射，濾波器是卷積層的唯一參數(shù)，通常用反向傳播算法在訓(xùn)練中學(xué)習(xí)，學(xué)習(xí)到的濾波器經(jīng)訓(xùn)練后固定，在測試中不變。

2. 因此作者，提出一個 Dynamic Filter Networks，這個模型中的卷積核是可學(xué)習(xí)的，通過學(xué)習(xí)將輸入映射到過濾器的函數(shù)，實現(xiàn)隨輸入的不同而變化。

三、模型結(jié)構(gòu)

1. Dynamic Filter Networks包含兩部分：Filter-generating network和Dynamic filtering layer。第一部分的作用是，產(chǎn)生卷積核，第二部分是實現(xiàn)卷積核的乘法操作。

?與卷積層相比，動態(tài)卷積層接收兩個輸入，第一個輸入是來自前一層的特征映射InputB，第二個輸入是InputA經(jīng)過網(wǎng)絡(luò)學(xué)習(xí)的過濾器。

2. Dynamic convolution layer

• 下圖這種操作是Sample-specific，也就是說，針對每個輸入的樣本卷積核共享，就是我們常使用的標(biāo)準(zhǔn)卷積，只是卷積核是可學(xué)習(xí)的。

?3.?Dynamic local filtering laye

下圖的右邊部分，這種操作是Sample specific 和 Position specific，每個像素點對應(yīng)的卷積核不相同。

?動態(tài)過濾層有兩種形式：動態(tài)卷積、動態(tài)局部過濾

• 圖1和圖2都是過濾器數(shù)目為1,feature map的channel為1的情況：

• 圖1是5 ? 5 的卷積核作為過濾器，在B上以過濾器作為卷積核滑動，是不同位置共享的；

• 圖2雖然是個立方體，但也是一個過濾器，只不過每個位置一個核，保存的時候拉成一列(也為5 ? 5)，用的時候每個位置一個卷積核恢復(fù)成原來形狀使用即可。