我們知道神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是這樣的：
那卷積神經(jīng)網(wǎng)絡(luò)跟它是什么關(guān)系呢？
其實(shí)卷積神經(jīng)網(wǎng)絡(luò)依舊是層級(jí)網(wǎng)絡(luò)，只是層的功能和形式做了變化，可以說(shuō)是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的一個(gè)改進(jìn)。比如下圖中就多了許多傳統(tǒng)神經(jīng)網(wǎng)絡(luò)沒(méi)有的層次。
卷積神經(jīng)網(wǎng)絡(luò)的層級(jí)結(jié)構(gòu)
? 數(shù)據(jù)輸入層/ Input layer
? 卷積計(jì)算層/ CONV layer
? ReLU激勵(lì)層 / ReLU layer
? 池化層 / Pooling layer
? 全連接層 / FC layer
1.數(shù)據(jù)輸入層
該層要做的處理主要是對(duì)原始圖像數(shù)據(jù)進(jìn)行預(yù)處理，其中包括：
? 去均值：把輸入數(shù)據(jù)各個(gè)維度都中心化為0
? 歸一化：幅度歸一化到同樣的范圍
? PCA/白化：用PCA降維；白化是對(duì)數(shù)據(jù)各個(gè)特征軸上的幅度歸一化
去均值與歸一化效果圖：
去相關(guān)與白化效果圖：
2.卷積計(jì)算層
這一層就是卷積神經(jīng)網(wǎng)絡(luò)最重要的一個(gè)層次，也是“卷積神經(jīng)網(wǎng)絡(luò)”的名字來(lái)源。
在這個(gè)卷積層，有兩個(gè)關(guān)鍵操作：
? 局部關(guān)聯(lián)。每個(gè)神經(jīng)元看做一個(gè)濾波器(filter)
? 窗口(receptive field)滑動(dòng)， filter對(duì)局部數(shù)據(jù)計(jì)算
先介紹卷積層遇到的幾個(gè)名詞：
? 深度/depth（解釋見(jiàn)下圖）
? 步長(zhǎng)/stride （窗口一次滑動(dòng)的長(zhǎng)度）
? 填充值/zero-padding
