Redis持久化機制

来源:https://www.cnblogs.com/JaxYoun/archive/2020/02/20/12336941.html
-Advertisement-
Play Games

1、Redis數據持久化的必要性 由於redis是基於記憶體的資料庫,面臨數據掉電易失的風險,要避免數據丟失,最好將記憶體數據持久化到磁碟等永久存儲介質上。服務重啟時,會先載入磁碟文件內的數據到記憶體,完成數據恢復。 2、RDB(RedisDB) 對記憶體中的redis全量數據進行 時點快照 並序列化,以文 ...


1、Redis數據持久化的必要性

由於redis是基於記憶體的資料庫,面臨數據掉電易失的風險,要避免數據丟失,最好將記憶體數據持久化到磁碟等永久存儲介質上。服務重啟時,會先載入磁碟文件內的數據到記憶體,完成數據恢復。

2、RDB(RedisDB)

對記憶體中的redis全量數據進行時點快照並序列化,以文件形式保存到磁碟上,生成的是dump.rdb二進位文件。到了dump時間點就生成一份新的rdb文件,同時覆蓋掉舊的。服務重啟時直接將dump文件反序列化並載入到記憶體中,數據恢復速度較快,也是redis預設的持久化方式。hdfs的nameNode也是用類似的方式生成fsimage文件來做持久化的,hdfs的nameNode也是用類似的方式生成fsimage文件來做持久化的

執行方式:

阻塞式:

類似JVM的stop-the-world,做快照的時候不能處理客戶端請求,客戶端可以使用save命令觸發。優點原理簡單,能保證數據一致性,缺點是對用戶不友好。

非阻塞式:

服務端做數據快照的時候,可以繼續處理客戶端的請求,客戶端可以使用bgsave命令觸發。優點是對客戶端友好,但複雜度高,必須解決做快照的同時,併發寫操作造成的數據不一致問題。
redis中的所有key和value是分為兩個部分單獨存儲的,兩個數據區之間建立映射關係,數據修改只是映射關係的改變。
大體機制:當服務端接收到bgsave命令後,服務端不會立馬執行快照操作,而是選擇合適的時機fork一個子進程,這個子進程全量繼承父進程的key數據集和映射關係。實現類cow的效果,子進程只保證dump時點當前的數據一致性,至於併發修改的數據就交給下一次dump來持久化。

配置策略:

可以通過客戶端發命令的方式,也可以寫在配置文件中實現自動持久化。
save 900 1 //如果在900秒內發生了超過1次k-v更新就觸發一次dump
save 300 10 //如果在300秒內發生了超過10次k-v更新就觸發一次dump
save 60 10000 //如果在60秒內發生了超過1萬次k-v更新就觸發一次dump
dbfilename dump.rdb //快照文件名
dir /opt/redis/rep //快照存儲路徑
【每完成一次快照後,時間計和更新計數器都會清零】

優點:

  1. 全量備份,可以做到針對不同時間點的多版本恢復(此時需要避免覆蓋問題,推薦用多伺服器來存儲dump文件)。
  2. 備份文件緊湊單一,利於網路傳輸,適合災難恢復。
  3. 恢復大數據集速度比AOF快。

缺點:

  1. 最後一次快照時如果掉電,併發寫的數據將丟失,所以適合存儲能容忍這種風險的場合。
  2. fork過程會造成毫秒級的耗時,會造成短暫的拒絕相應。

3、AOF(AppendOnlyFile)

實時記錄每一條寫數據的命令,形成binlog,服務重啟時會原樣執行一遍aof文件中的所有命令,達到數據恢復的目的,但恢復速度比rdb式慢。hdfs中提供了類似的方式,edit-log,只是預設時關閉的。

幾乎可以做到不丟失任何數據,也可以控制丟失一秒內的數據。
備份的數據量太大,不夠緊湊,io交互頻繁。
寫入機制:在現代操作系統中,程式執行write系統調用時,是先將數據寫到一個記憶體buffer中,等到buffer滿或者用戶執行fsync或fdatasync
指令時才會將buffer數據刷到disc上,所以未刷盤的數據存在掉電丟失風險。

落盤策略由appendfssync選項控制:

  • always:服務端每接收一個更新指令都刷到磁碟,不會發生數據丟失,但是io太過頻繁效率很低。
  • everysecond:每隔1秒鐘刷一次盤,有可能丟失一秒鐘的數據,效率適中。
  • no:服務端不主動刷盤,數據何時落盤完全取決於操作系統,只有當buffer滿了才會刷盤,丟失數據量不確定,效率最高。

AOF重寫機制:

由於AOF文件時間長了會很大,可以通過分析文件內容,將多條命令合併為一條,將對同一個key的多次操作只保留最新的那一次。

AOF重寫過程

  • fork一個子進程負責重寫AOF文件
  • 子進程創建一個臨時文件來寫入AOF數據
  • 父進程開闢一個記憶體緩衝區接收新的寫命令
  • 子進程重寫完畢後,父進程會獲得一個信號,父進程將新收到的寫命令通過子進程寫入臨時文件
  • 用臨時文件替換掉舊的AOF文件

AOF重寫的觸發

  1. 手動式:通過客戶端發送bgrewriteaof命令。
  2. 自動式:必須在配置文件中配置如下兩個參數
    • auto-aof-rewrite-min-size 500mb //只有當aof文件大於等於500M時,伺服器才會重寫aof文件,避免過小文件的重寫問題。
    • auto-aof-rewrite-min-percentage 60 //在滿足最小閾值的前提下,超過上一次重寫後生成的文件體積的60%時將觸發重寫,避免了無限迴圈重寫。(如果尚未做過重寫,就以啟動時的AOF文件體積作為對比基準,如果此值為0,則表示關閉自動重寫功能)。

優點:

  • 預設每秒刷盤,性能好不阻塞服務,最多丟失一秒數據。
  • 如果發生誤操作(flushall等),只要文件未被重寫,立即停止服務將,AOF文件最後的flushall命令刪除,然後重啟redis服務實現數據恢復。

缺點:

  • 相同數據集,AOF比RDB大很多。
  • 數據恢復速度比RDB慢。

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 操作系統控制電腦 電腦系統操作方式 OS規定了合理操作電腦的工作流程,OS的操作介面——系統程式,OS提供給用戶的功能級介面,為用戶提供的解決操作電腦和計算共性問題的所有服務的集合,OS的兩類作業級介面:離線作業控制方式,作業控制語言;聯機作業控制方式,操作控制命令 離線作業控制方式 + O ...
  • linux上的進程查看及管理工具: pstree,ps,pidof,pgrep,top,htop,glances,pmap,vmstat,dstat,kill,pkill,job,bg,fg,nohup,nice,renice,killall。。。 linux開機時,會啟動第一個進程,由這個進程去啟 ...
  • 1. 使用Navicat工具,優先將整個資料庫的表和數據導出。 2. 如果遇到 文件損壞 錯誤可以在 表實例界面 選中所有表,然後將表轉儲為SQL文件(結構和數據)。 3. 在目標資料庫執行導出的SQL文件,導入數據和結構。 4. 如果個別表因為各種原因(比如使用federated引擎建立了DB L ...
  • 1、KeyBy 操作後,只有當 Key 的數量大於運算元的併發實例數才能獲得較好的計算性能。 A.而若Key 的數量比實例數量少,就會導致部分實例收不到數據,這些實例就得不到執行,這些實例的計算能力得不到充分發揮。 ~~B.當Key個數多餘並行實例數時,由於同一個 Key 對應的所有數據都能發送到同一 ...
  • 邏輯計劃 1. logicGraph或者jobGraph,其端點為operator,edge為數據流向。 2. operator往往代表一個函數。 3. 同一個分區內的具有連續上下游關係的函數組成operator chain,一個operator chain內的數據來流動過程中不會出現序列化和分區間 ...
  • 在早期版本的Spark中,shuffle過程沒有磁碟讀寫操作,是純記憶體操作,後來發現效率較低,且極易引發OOME,較新版本的Shuffle操作都加入了磁碟讀寫進行了改進。 1、未經優化的HashShuffleManager:上一個stage中每一個task會對下一個stage的每一個task寫一份數 ...
  • 1、Spark組件之間使用RPC機制進行通信。RPC的客戶端在本地編寫並調用業務介面,介面在本地通過RPC框架的動態代理機制生成一個對應的實現類,在這個實現類中完成soket通信、遠程調用等功能的邏輯包裝,而在RPC的服務端既編寫業務介面也編寫了具體的業務實現類,通過RPC框架以介面的方式暴露出來, ...
  • 1、spark的一大特性就是基於記憶體計算,Driver只保存任務的巨集觀性的元數據,數據量較小,且在執行過程中基本不變,不做重點分析,而真正的計算任務Task分佈在各個Executor中,其中的記憶體數據量大,且會隨著計算的進行會發生實時變化,所以Executor的記憶體管理才分析的重點。 2、在執行Sp ...
一周排行
    -Advertisement-
    Play Games
  • .Net8.0 Blazor Hybird 桌面端 (WPF/Winform) 實測可以完整運行在 win7sp1/win10/win11. 如果用其他工具打包,還可以運行在mac/linux下, 傳送門BlazorHybrid 發佈為無依賴包方式 安裝 WebView2Runtime 1.57 M ...
  • 目錄前言PostgreSql安裝測試額外Nuget安裝Person.cs模擬運行Navicate連postgresql解決方案Garnet為什麼要選擇Garnet而不是RedisRedis不再開源Windows版的Redis是由微軟維護的Windows Redis版本老舊,後續可能不再更新Garne ...
  • C#TMS系統代碼-聯表報表學習 領導被裁了之後很快就有人上任了,幾乎是無縫銜接,很難讓我不想到這早就決定好了。我的職責沒有任何變化。感受下來這個系統封裝程度很高,我只要會調用方法就行。這個系統交付之後不會有太多問題,更多應該是做小需求,有大的開發任務應該也是第二期的事,嗯?怎麼感覺我變成運維了?而 ...
  • 我在隨筆《EAV模型(實體-屬性-值)的設計和低代碼的處理方案(1)》中介紹了一些基本的EAV模型設計知識和基於Winform場景下低代碼(或者說無代碼)的一些實現思路,在本篇隨筆中,我們來分析一下這種針對通用業務,且只需定義就能構建業務模塊存儲和界面的解決方案,其中的數據查詢處理的操作。 ...
  • 對某個遠程伺服器啟用和設置NTP服務(Windows系統) 打開註冊表 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\W32Time\TimeProviders\NtpServer 將 Enabled 的值設置為 1,這將啟用NTP伺服器功 ...
  • title: Django信號與擴展:深入理解與實踐 date: 2024/5/15 22:40:52 updated: 2024/5/15 22:40:52 categories: 後端開發 tags: Django 信號 松耦合 觀察者 擴展 安全 性能 第一部分:Django信號基礎 Djan ...
  • 使用xadmin2遇到的問題&解決 環境配置: 使用的模塊版本: 關聯的包 Django 3.2.15 mysqlclient 2.2.4 xadmin 2.0.1 django-crispy-forms >= 1.6.0 django-import-export >= 0.5.1 django-r ...
  • 今天我打算整點兒不一樣的內容,通過之前學習的TransformerMap和LazyMap鏈,想搞點不一樣的,所以我關註了另外一條鏈DefaultedMap鏈,主要調用鏈為: 調用鏈詳細描述: ObjectInputStream.readObject() DefaultedMap.readObject ...
  • 後端應用級開發者該如何擁抱 AI GC?就是在這樣的一個大的浪潮下,我們的傳統的應用級開發者。我們該如何選擇職業或者是如何去快速轉型,跟上這樣的一個行業的一個浪潮? 0 AI金字塔模型 越往上它的整個難度就是職業機會也好,或者說是整個的這個運作也好,它的難度會越大,然後越往下機會就會越多,所以這是一 ...
  • @Autowired是Spring框架提供的註解,@Resource是Java EE 5規範提供的註解。 @Autowired預設按照類型自動裝配,而@Resource預設按照名稱自動裝配。 @Autowired支持@Qualifier註解來指定裝配哪一個具有相同類型的bean,而@Resourc... ...