執行計劃緩存,Prepared Statement性能躍升的秘密

来源:https://www.cnblogs.com/huaweiyun/archive/2023/06/02/17451771.html
-Advertisement-
Play Games

摘要:一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。 本文分享自華為雲社區《執行計劃緩存,Prepared Statement性能躍升的秘密》,作者: GaussDB 資料庫。 引言 在資料庫系統中,SQL(Structure ...


摘要:一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。

本文分享自華為雲社區《執行計劃緩存,Prepared Statement性能躍升的秘密》,作者: GaussDB 資料庫。

引言

在資料庫系統中,SQL(Structured Query Language)語句輸入到系統後,一般要經歷:詞法語法解析(parse)、重寫(resolve)、優化(optimize)、執行(execute)的過程。詞法語法分析,重寫和優化,這三個階段會生成SQL語句的執行計劃 (plan)。當SQL語句存在多種執行計劃的時候,優化器會從這許多的執行計劃中挑選出一個它認為最優的(通常是占用系統資源最少的,包括CPU以及IO等)作為最終的執行計劃供執行器執行。生成執行計劃的過程會消耗較多的時間,特別是存在許多可選的執行計劃時。

圖1:SQL語句執行

Prepared Statement是將SQL語句中的值用占位符替代,可以視為將SQL語句模板化或者說參數化。當執行PREPARE語句時,傳統MySQL將對指定的語句進行詞法語法解析和重寫,如上圖①②。該階段稱為預編譯階段。Prepared Statement的優勢在於一次編譯、多次運行,省去了預編譯階段需要的時間。隨後發出EXECUTE命令時,MySQL將對編譯階段生成的結構執行優化,即上圖的③,生成對應的執行計劃並執行,把輸出結果返回到客戶端。例如:

PREPARE stmt FROM ‘SELECT * FROM t WHERE t.a = ?’;
SET @var = 2;
EXECUTE stmt USING @var;

傳統MySQL的Prepared Statement只會節省SQL語句的解析及重寫過程需要的時間,但是對於一條SQL語句,如文章開頭所述,優化SQL語句並生成執行計劃需要耗費大量的資源以及時間。如果能將該Prepared Statement語句對應的最終執行計划進行緩存,當執行EXECUTE語句的時候,就可以直接使用已緩存的執行計劃,從而就可以跳過SQL語句生成執行計劃的整個過程,進而可以提高語句的執行性能。為此,GaussDB(for MySQL) 提供了Prepared Statement執行計劃緩存特性。

接下來一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。

執行計劃緩存工作原理

GaussDB(for MySQL)對Prepared Statement執行計划進行緩存的基本原理和流程如下圖所示:

  • 響應EXECUTE,執行查詢。
  • 通過is_plan_cached過程來查看當前Query的執行計劃是否已經被緩存。
  • 如果已經被緩存,優化器將對當前的Query緩存的執行計划進行初始化,根據執行計劃的上下文還原執行計劃,然後利用還原的執行計劃繼續執行。
  • 如果沒有被緩存,在執行完Query優化生成執行計劃之後,通過is_query_cachable過程驗證當前執行計劃是否可以被緩存。
  • 如果滿足緩存條件,執行計劃將會被緩存(調用cache_JOIN_plan),以便以後的EXECUTE語句可以利用該緩存的計划進行執行。
  • 如果不能緩存,通過傳統的MySQL執行流程(優化,生成執行計劃然後執行)執行EXECUTE語句。

執行計劃緩存管理

  • 執行計劃緩存功能開關

GaussDB(for MySQL)引入了一個新的系統參數rds_plan_cache來開關Prepared Statement執行計劃緩存功能。

rds_plan_cache:該參數可以設置為ON/OFF。分別代表開啟和關閉執行計劃緩存。該參數是Session/Global級別的參數。

  • 查看執行計劃緩存情況

GaussDB(for MySQL)提供了兩個狀態變數供用戶查看或者驗證Prepared Statement執行計劃是否被緩存,以及在執行時是否命中了緩存的執行計劃。

  • cached_plan_count:顯示有多少個Prepared Statement緩存了執行計劃。這是一個Global級別的狀態變數。
  • cached_plan_hits:顯示EXECUTE執行過程中命中了緩存的執行計劃的次數。這是一個Session/Global狀態。

下麵舉例來看一下Prepared Statement是如何利用了執行計劃緩存特性的:

SET @a = 'two';
SET @b = 3;
PREPARE stmt FROM "SELECT * FROM t1 WHERE b = ? AND c = ?";
EXECUTE stmt USING @a,@b;

執行結果如下:

a b c
6 two 3

再次執行Prepared Statement:

EXECUTE stmt USING @a,@b;
a b c
6 two 3

第三次執行Prepared Statement:

execute stmt using @a,@b;
a b c
6 two 3

通過cached_plan_count和cached_plan_hits查看stmt執行計劃是否被緩存,以及在執行時是否命中了緩存的執行計劃。

SHOW SESSION STATUS LIKE "cached_plan%";

顯示結果如下:

Variable_name Value
Cached_plan_count 1
Cached_plan_hits 2

從顯示結果可以看出,第一次執行EXECUTE語句的時候,Prepared Statement對執行計划進行了緩存,即可以看到Cached_plan_count為1; 之後執行兩次EXECUTE語句,都命中了執行計劃緩存,所以可以看到Cached_plan_hits變成了2。

緩存的執行計劃如何失效

為了保持當前緩存的執行計劃是儘可能最優的,GaussDB(for MySQL)定義瞭如下規則來對當前緩存的計划進行失效,並重新生成執行計劃:

  • 執行計劃相關表的記錄數更改超過總記錄數的20%。
    這意味著當前表的記錄數如果插入/刪除超過20%的記錄,當前緩存計劃將失效併在優化後重新緩存。註:記錄數是根據統計數據估計的。所以最好先對錶進行Analyze。
  • 表定義進行了更改。
    例如,執行計劃相關表上進行的DDL將導致緩存計劃無效,併在優化後重新緩存。
  • 如果系統變數Optimizer_switch中影響執行計劃生成的選項值進行了更改,則緩存的計劃將失效,併在優化後重新緩存。
  • 系統字元集發生變化,與緩存的計劃不同時,將導致緩存計劃失效,併在優化後重新緩存。

執行計劃緩存功能當前的一些限制

GaussDB(for MySQL)的Prepared Statement的目的是節約查詢的優化時間。對於通過並行查詢優化的大查詢,也就是數據量相對龐大的查詢,這些查詢大部分的執行時間是集中在執行計劃的執行階段。對於該類型的查詢,優化時間相比執行時間而言可以忽略不計,所以GaussDB(for MySQL)沒有對並行查詢計划進行緩存。另外,GaussDB(for MySQL)對於Prepared statement 緩存執行計劃的能力還在逐步增強中,比如當前只支持單表的SELECT查詢語句,暫時還不支持UNION操作。

執行計劃緩存性能測試結果

對於使用執行計劃緩存和不使用執行計劃緩存的場景,基於Sysbench測試集進行了性能測試對比,從測試結果可以看出,在啟用執行計劃緩存後,各類業務性能均有提升。註意:這些測試只代表相對數字,並不代表實際性能。

測試環境配置如下:

數據集 : 8 個表,每個表1000萬行
測試伺服器:Intel(R) Xeon(R) CPU E5-2690 v4 @ 2.60GHz 2 physical cores 56 processors 460G memory

總結

GaussDB(for MySQL)通過緩存執行計劃,可以提升Prepared Statement的性能。特別是針對Range Scan的測試集,性能提升可達2倍左右。未來我們會支持越來越多的查詢場景,性能加速值得期待。

 

點擊關註,第一時間瞭解華為雲新鮮技術~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • AH8670C 是一款內部集成有功率MOSFET管可設定輸出電流的降壓型開關穩壓器。TD:186*4884*3702*V可工作在寬輸入電壓範圍具有優良的負載和線性調整。寬範圍輸入電壓(8V至90V)可提供最大3A電流的高效率輸出,可在移動環境輸入的條件下實現各種降壓型 電源 變換的應用。 安全保護機 ...
  • > 安裝轉載:https://www.cnblogs.com/saryli/p/9729591.html > > 插件轉載:https://blog.csdn.net/nbdclw/article/details/107441772 #### 安裝及配置環境 ##### 第一步:下載並安裝erlan ...
  • 此日海光新至,為其接風飲宴。席間其樂融融,眾CPU互報姓名,曰:海光C86-3250、龍芯3A5000、飛騰D2000、兆芯KX-U6780A。其間海光3250言其太上蠻橫,只許子弟行走於伺服器和工作站之間,圍坐桌面乃是越矩,此番被拘於此方知桌面之妙,願以文會友,以人鑒己。老夫雖知其本意,卻亦有意相... ...
  • kprobe_events shell模式使用教程 kprobe 使用前提 需要內核啟用以下配置 CONFIG_KPROBES=y CONFIG_HAVE_KPROBES=y CONFIG_KPROBE_EVENT=y kprobe_events kprobe_events有兩種類型:kprobe, ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202306/3076680-20230602231102469-1389179464.png) # 1. 基礎思想 ## 1.1. 預寫日誌記錄 ## 1.2. 兩階段提交 ## 1.3. 關係資料庫 # 2 ...
  • # Redis Redis是一個開源(BSD許可高性能的記憶體存儲的key-value資料庫! 可用作資料庫,高速緩存和消息隊列代理。它支持字元串、哈希表、列表(List)、集合(Set)、有序集合(Ordered Sets),點陣圖(bitmap),hyperloglogs,GEO等數據類型。內置複製 ...
  • 有很多朋友對中國文化歷史相關的數據感興趣,現有的中華上下五千年、世界五千年這類的數據記錄數還太少太少,於是今天就採集了一個中華歷史網站,共有效採集到近8萬條記錄。 分類彙總情況:野史秘聞(12273)、歷史人物(8840)、歷史雜談(7928)、文史百科(5635)、歷史趣聞(5282)、雜說歷史( ...
  • 這段時間破解了中高學生知識題庫,包含高中英語題庫、小學英語題庫、初中地理題庫、初中歷史題庫、高中歷史題庫、初中生物題庫,數據表結構都一樣,今天發的這份是上萬條的高中歷史題庫,截圖包含所有欄位,截圖下方有顯示共有記錄數。 參考項有:古代中國的政治制度(2846)、近代中國的民主革命(2493)、古代中 ...
一周排行
    -Advertisement-
    Play Games
  • GoF之工廠模式 @目錄GoF之工廠模式每博一文案1. 簡單說明“23種設計模式”1.2 介紹工廠模式的三種形態1.3 簡單工廠模式(靜態工廠模式)1.3.1 簡單工廠模式的優缺點:1.4 工廠方法模式1.4.1 工廠方法模式的優缺點:1.5 抽象工廠模式1.6 抽象工廠模式的優缺點:2. 總結:3 ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 本章將和大家分享ES的數據同步方案和ES集群相關知識。廢話不多說,下麵我們直接進入主題。 一、ES數據同步 1、數據同步問題 Elasticsearch中的酒店數據來自於mysql資料庫,因此mysql數據發生改變時,Elasticsearch也必須跟著改變,這個就是Elasticsearch與my ...
  • 引言 在我們之前的文章中介紹過使用Bogus生成模擬測試數據,今天來講解一下功能更加強大自動生成測試數據的工具的庫"AutoFixture"。 什麼是AutoFixture? AutoFixture 是一個針對 .NET 的開源庫,旨在最大程度地減少單元測試中的“安排(Arrange)”階段,以提高 ...
  • 經過前面幾個部分學習,相信學過的同學已經能夠掌握 .NET Emit 這種中間語言,並能使得它來編寫一些應用,以提高程式的性能。隨著 IL 指令篇的結束,本系列也已經接近尾聲,在這接近結束的最後,會提供幾個可供直接使用的示例,以供大伙分析或使用在項目中。 ...
  • 當從不同來源導入Excel數據時,可能存在重覆的記錄。為了確保數據的準確性,通常需要刪除這些重覆的行。手動查找並刪除可能會非常耗費時間,而通過編程腳本則可以實現在短時間內處理大量數據。本文將提供一個使用C# 快速查找並刪除Excel重覆項的免費解決方案。 以下是實現步驟: 1. 首先安裝免費.NET ...
  • C++ 異常處理 C++ 異常處理機制允許程式在運行時處理錯誤或意外情況。它提供了捕獲和處理錯誤的一種結構化方式,使程式更加健壯和可靠。 異常處理的基本概念: 異常: 程式在運行時發生的錯誤或意外情況。 拋出異常: 使用 throw 關鍵字將異常傳遞給調用堆棧。 捕獲異常: 使用 try-catch ...
  • 優秀且經驗豐富的Java開發人員的特征之一是對API的廣泛瞭解,包括JDK和第三方庫。 我花了很多時間來學習API,尤其是在閱讀了Effective Java 3rd Edition之後 ,Joshua Bloch建議在Java 3rd Edition中使用現有的API進行開發,而不是為常見的東西編 ...
  • 框架 · 使用laravel框架,原因:tp的框架路由和orm沒有laravel好用 · 使用強制路由,方便介面多時,分多版本,分文件夾等操作 介面 · 介面開發註意欄位類型,欄位是int,查詢成功失敗都要返回int(對接java等強類型語言方便) · 查詢介面用GET、其他用POST 代碼 · 所 ...
  • 正文 下午找企業的人去鎮上做貸後。 車上聽同事跟那個司機對罵,火星子都快出來了。司機跟那同事更熟一些,連我在內一共就三個人,同事那一手指桑罵槐給我都聽愣了。司機也是老社會人了,馬上聽出來了,為那個無辜的企業經辦人辯護,實際上是為自己辯護。 “這個事情你不能怪企業。”“但他們總不能讓銀行的人全權負責, ...