節(jié)前一個(gè)誤操作把mysql中record表和movie表都清空了，顯然我是沒(méi)有做什么mysql備份的。所以，索性我把所有的表數(shù)據(jù)都清空的，一夜回到解放前……
項(xiàng)目地址：https://github.com/DMinerJackie/JewelCrawler
在上一個(gè)版本中，record表存儲(chǔ)了7萬(wàn)多條記錄，爬取的有4萬(wàn)多條，但是可以明顯的發(fā)現(xiàn)爬取的數(shù)據(jù)量越多的時(shí)候，機(jī)子就越卡。又一次報(bào)錯(cuò)，是有關(guān)JDBC的，還有一次機(jī)子跑卡死了。
仔細(xì)一琢磨，上個(gè)版本的爬蟲程序與數(shù)據(jù)庫(kù)的讀寫次數(shù)太頻繁，存在以下問(wèn)題：
1.程序運(yùn)行，從種子地址開(kāi)始，對(duì)于每次爬取的網(wǎng)站地址先查詢數(shù)據(jù)庫(kù)是否存在該條記錄，如果不存在，則立即插入；
2.當(dāng)前網(wǎng)站地址爬取完畢后，查找數(shù)據(jù)庫(kù)從中取出第一個(gè)crawled為0的記錄進(jìn)行爬取，每次只取一條；
3.存儲(chǔ)電影詳情頁(yè)記錄以及短評(píng)數(shù)據(jù)都是采用解析一條則立即存儲(chǔ)到數(shù)據(jù)庫(kù)。
顯然，上面的這種方式是一目了然的效率低下，所以今天下午對(duì)相關(guān)代碼進(jìn)行改造，部分實(shí)現(xiàn)了批量插入，盡可能減少與數(shù)據(jù)庫(kù)的交互，從而降低時(shí)空成本。
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無(wú)線安全]玩轉(zhuǎn)無(wú)線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問(wèn)題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來(lái)看看(二) 2017-07-26
學(xué)習(xí)是年輕人改變自己的最好方式