在實現(xiàn)網(wǎng)絡爬蟲的過程中,驗證碼的出現(xiàn)總是會阻礙爬蟲的工作。本期介紹一種利用深度神經(jīng)網(wǎng)絡來實現(xiàn)的端到端的驗證碼識別方法。通過本方法,可以在不切割圖片、不做模板匹配的情況下實現(xiàn)精度超過90%的識別結(jié)果。
本文分為兩個部分,第一個部分介紹如何利用深度神經(jīng)網(wǎng)絡實現(xiàn)驗證碼的訓練和識別,第二個部分介紹在實現(xiàn)過程中需要克服的工程問題。
一. 基于深度神經(jīng)網(wǎng)絡的驗證碼識別
驗證碼的識別是從圖片到文字的過程。傳統(tǒng)的算法如OCR正是為了解決此類問題而設計的。然而,在真實情形中,驗證碼通常并不以規(guī)則的文字出現(xiàn),即文字通常會有不同程度的變形,圖像本身也通常會被添加或多或少的噪聲。這些干擾的出現(xiàn),使得文字分割、模板匹配不再有效,進而OCR算法也很難解析出結(jié)果。
近年來,深度神經(jīng)網(wǎng)絡(DNN)在圖像識別領(lǐng)域已經(jīng)被證明了強大的識別能力。單個文字的識別是典型的分類問題。通常的做法為訓練一個深度神經(jīng)網(wǎng)絡,網(wǎng)絡的最后一層分為N種類別,代表字符的數(shù)目。比如對于英文字母,最后一層的分類器便是26個。比如經(jīng)典的LeNet(http://yann.lecun.com/exdb/lenet/)即為解決單個文字識別的網(wǎng)絡:
然而驗證碼通常包含多個字符,如何利用現(xiàn)有的網(wǎng)絡實現(xiàn)這類分類問題呢?實際上這個問題再機器學習中被稱為多標簽訓練問題。和上述每個圖片輸入只對應一個標簽類別對比,這類分類的輸出是多個標簽。我們同樣可以對傳統(tǒng)的神經(jīng)網(wǎng)絡稍作改變以適應這種情況。