緩存一致性問題
當(dāng)數(shù)據(jù)時(shí)效性要求很高時(shí),需要保證緩存中的數(shù)據(jù)與數(shù)據(jù)庫中的保持一致,而且需要保證緩存節(jié)點(diǎn)和副本中的數(shù)據(jù)也保持一致,不能出現(xiàn)差異現(xiàn)象。這就比較依賴緩存的過期和更新策略。一般會在數(shù)據(jù)發(fā)生更改的時(shí),主動更新緩存中的數(shù)據(jù)或者移除對應(yīng)的緩存。
緩存并發(fā)問題
緩存過期后將嘗試從后端數(shù)據(jù)庫獲取數(shù)據(jù),這是一個看似合理的流程。但是,在高并發(fā)場景下,有可能多個請求并發(fā)的去從數(shù)據(jù)庫獲取數(shù)據(jù),對后端數(shù)據(jù)庫造成極大的沖擊,甚至導(dǎo)致 “雪崩”現(xiàn)象。此外,當(dāng)某個緩存key在被更新時(shí),同時(shí)也可能被大量請求在獲取,這也會導(dǎo)致一致性的問題。那如何避免類似問題呢?我們會想到類似“鎖”的機(jī)制,在緩存更新或者過期的情況下,先嘗試獲取到鎖,當(dāng)更新或者從數(shù)據(jù)庫獲取完成后再釋放鎖,其他的請求只需要犧牲一定的等待時(shí)間,即可直接從緩存中繼續(xù)獲取數(shù)據(jù)。
緩存穿透問題
緩存穿透在有些地方也稱為“擊穿”。很多朋友對緩存穿透的理解是:由于緩存故障或者緩存過期導(dǎo)致大量請求穿透到后端數(shù)據(jù)庫服務(wù)器,從而對數(shù)據(jù)庫造成巨大沖擊。
這其實(shí)是一種誤解。真正的緩存穿透應(yīng)該是這樣的:
在高并發(fā)場景下,如果某一個key被高并發(fā)訪問,沒有被命中,出于對容錯性考慮,會嘗試去從后端數(shù)據(jù)庫中獲取,從而導(dǎo)致了大量請求達(dá)到數(shù)據(jù)庫,而當(dāng)該key對應(yīng)的數(shù)據(jù)本身就是空的情況下,這就導(dǎo)致數(shù)據(jù)庫中并發(fā)的去執(zhí)行了很多不必要的查詢操作,從而導(dǎo)致巨大沖擊和壓力。
可以通過下面的幾種常用方式來避免緩存?zhèn)鹘y(tǒng)問題:
緩存空對象
對查詢結(jié)果為空的對象也進(jìn)行緩存,如果是集合,可以緩存一個空的集合(非null),如果是緩存單個對象,可以通過字段標(biāo)識來區(qū)分。這樣避免請求穿透到后端數(shù)據(jù)庫。同時(shí),也需要保證緩存數(shù)據(jù)的時(shí)效性。這種方式實(shí)現(xiàn)起來成本較低,比較適合命中不高,但可能被頻繁更新的數(shù)據(jù)。
單獨(dú)過濾處理
對所有可能對應(yīng)數(shù)據(jù)為空的key進(jìn)行統(tǒng)一的存放,并在請求前做攔截,這樣避免請求穿透到后端數(shù)據(jù)庫。這種方式實(shí)現(xiàn)起來相對復(fù)雜,比較適合命中不高,但是更新不頻繁的數(shù)據(jù)。
緩存顛簸問題
緩存的顛簸問題,有些地方可能被成為“緩存抖動”,可以看做是一種比“雪崩”更輕微的故障,但是也會在一段時(shí)間內(nèi)對系統(tǒng)造成沖擊和性能影響。一般是由于緩存節(jié)點(diǎn)故障導(dǎo)致。業(yè)內(nèi)推薦的做法是通過一致性Hash算法來解決。這里不做過多闡述,可以參照其他章節(jié)