在深度神經(jīng)網(wǎng)絡(luò)（DNN）反向傳播算法(BP)中，我們對(duì)DNN的前向反向傳播算法的使用做了總結(jié)。里面使用的損失函數(shù)是均方差，而激活函數(shù)是Sigmoid。實(shí)際上DNN可以使用的損失函數(shù)和激活函數(shù)不少。這些損失函數(shù)和激活函數(shù)如何選擇呢？下面我們就對(duì)DNN損失函數(shù)和激活函數(shù)的選擇做一個(gè)總結(jié)。
1. 均方差損失函數(shù)+Sigmoid激活函數(shù)的問(wèn)題
在講反向傳播算法時(shí)，我們用均方差損失函數(shù)和Sigmoid激活函數(shù)做了實(shí)例，首先我們就來(lái)看看均方差+Sigmoid的組合有什么問(wèn)題。
首先我們回顧下Sigmoid激活函數(shù)的表達(dá)式為：
σ
延伸閱讀
學(xué)習(xí)是年輕人改變自己的最好方式