問題由來
前些天工作中遇到一個(gè)問題:
有 60萬 條短消息記錄日志,每條約 50 字,5萬 關(guān)鍵詞,長度 2-8 字,絕大部分為中文。要求將這 60萬 條記錄中包含的關(guān)鍵詞全部提取出來并統(tǒng)計(jì)各關(guān)鍵詞的命中次數(shù)。
本文完整介紹了我的實(shí)現(xiàn)方式,看我如何將需要運(yùn)行十小時(shí)的任務(wù)優(yōu)化到十分鐘以內(nèi)。雖然實(shí)現(xiàn)語言是 PHP,但本文介紹的更多的思想,應(yīng)該能給大家一些幫助。