問題由來

前些天工作中遇到一個問題：

有 60萬 條短消息記錄日志，每條約 50 字，5萬 關(guān)鍵詞，長度 2-8 字，絕大部分為中文。要求將這 60萬 條記錄中包含的關(guān)鍵詞全部提取出來并統(tǒng)計各關(guān)鍵詞的命中次數(shù)。

本文完整介紹了我的實現(xiàn)方式，看我如何將需要運行十小時的任務(wù)優(yōu)化到十分鐘以內(nèi)。雖然實現(xiàn)語言是 PHP，但本文介紹的更多的思想，應(yīng)該能給大家一些幫助。

原始 - grep

設(shè)計

網(wǎng)友評論