服務器減壓,你不得不知的緩存使用技巧

為什么使用緩存

一般情況下，在訪問量達到一定規(guī)模后，數(shù)據(jù)庫的讀寫會成為一個瓶頸，我們會采用一些手段來對數(shù)據(jù)庫減壓，讓它可以正常的工作?？梢钥紤]的手段包括讀寫分離、添加緩存服務器等，讀寫分離是為了盡量將對數(shù)據(jù)庫的讀寫動作分開，減少互相之間的影響；添加緩存是為了讀庫的時候，減少直接讀取數(shù)據(jù)庫的動作，將查詢的結果存放在緩存中，用戶的請求被隔絕在數(shù)據(jù)庫以外，從而減少數(shù)據(jù)庫的壓力。

這是一個理想狀況下緩存工作的方式，但僅僅是理想

緩存穿透

所謂緩存穿透，是說用戶請求在緩存系統(tǒng)中查找結果時候失效，接下來去后端存儲系統(tǒng)中查找數(shù)據(jù)，這個時候，如果數(shù)據(jù)不存在，而且這個訪問也比較大的情況下，大量的訪問會直接命中數(shù)據(jù)庫，這時候負責存儲的服務器就悲劇了（如果左圖），所以我們就需要做一些努力，使得當數(shù)據(jù)不存在，往緩存中寫入一個標志抑或將空的查詢結果存入緩存，減少這種無用的請求頻繁命中數(shù)據(jù)庫的情況（如右圖）

也可以將確認為空或者空的查詢結果存儲到單獨的緩存區(qū)域中。

緩存雪崩

這是另外一個問題，當系統(tǒng)使用的緩存發(fā)生意外(網(wǎng)絡失敗、宕機、服務掛掉、緩存集體丟失等等)之后，緩存集體失效，導致短時間內(nèi)請求都到達數(shù)據(jù)庫(數(shù)據(jù)存儲層)，使得數(shù)據(jù)庫壓力山大進而crash掉。

為了預防這種情況，我們采用一下幾種方式：

1、我們采用多實例的方式來保證緩存的高可用性，盡量避免當個別實例出現(xiàn)問題之后，引起全局緩存的問題。這類方案很多，比如memcache的一致性hash，redis的cluster機制，來避免單點的故障，這類資料可以搜索一下關于redis或者memcache的高可用方案。

2、降級機制。這個方法在很多高可用設計中可能也有描述，簡單一點說就是我們將用戶與用戶之間，資源與資源之間進行隔離，當某一部分數(shù)據(jù)產(chǎn)生問題之后或者對某一部分的請求到達一個閥值之后，根據(jù)預設的機制，對請求只返回熱點數(shù)據(jù)，保證客戶端不會產(chǎn)生天窗或者說一直無法響應的問題。

3、加鎖。對于到達的請求，我們用鎖的機制，來盡量使它們排隊處理從而減少對數(shù)據(jù)庫產(chǎn)生并發(fā)?？梢詤⒖嫉逆i方案有兩種，一種是使用全局鎖或者字符串鎖等方案，是一個請求進行操作的時候，其他的請求處于等待狀態(tài)，當這個請求處理完畢之后進行下一步的業(yè)務處理，但是這樣的話如果一個請求掛掉，會對后面排隊的請求產(chǎn)生影響，而且請求的處理可能不會短時間處理完畢，會導致請求阻塞的時間過長等問題，第二種方案就是在進行操作的時候，其他請求進來的時候判斷是否有鎖存在，如果存在直接跳過處理，返回熱點數(shù)據(jù)。

需要說的是降級機制未必要放到圖中這個位置，也可以放在緩存之前或其他的位置，它的主要目的是當出現(xiàn)問題時候隔離掉出現(xiàn)問題的資源不影響客戶端的內(nèi)容或者使一部分用戶的請求無法到達真正的業(yè)務邏輯從而減少業(yè)務處理的壓力。

海外服務器免費測試：http://hbjsdrq.com/