一條SQL查詢語句是如何執行的

語言: CN / TW / HK

背景

我們執行一條查詢語句時,對客户端是一個很簡單的過程,但對服務端(MySQL)內部卻涉及到很複雜的組件和邏輯,當出現一些比較複雜的SQL問題時,如果不理解其內部執行的原理,將會很難去定位和解決問題

正文

先聊聊MySQL的邏輯架構

image.png

大體來説,MySQL可以分為 Server層和存儲引擎層兩部分

Server層

  • 包括連接器、查詢緩存、分析器、優化器、執行器
  • 實現了MySQL 的大多數核心服務功能,所有的包括查詢解析、分析、優化、緩存以及所有的內置函數,所有跨存儲引擎的功能都在這一層實現,比如存儲過程、觸發器、視圖

存儲引擎層

  • 負責數據的存儲和提取。其架構模式是插件式的,支持 InnoDB、MyISAM、Memory 等多個存儲引擎。現在最常用的存儲引擎是 InnoDB,它從 MySQL 5.5.5 版本開始成為了默認存儲引擎。也就是説,你執行 create table 建表的時候,如果不指定引擎類型,默認使用的就是 InnoDB。不過,你也可以通過指定存儲引擎的類型來選擇別的引擎,比如在 create table 語句中使用 engine=memory, 來指定使用內存引擎創建表。
  • 不同存儲引擎的表數據存取方式不同,支持的功能也不同,不同的存儲引擎共用一個 Server 層
  • Server 層通過存儲引擎API來與它們交互,這些接口屏蔽了不同存儲引擎之間的差異,使得這些差異對上層的查詢儘可能的透明。這些API包含幾十個底層函數,用於執行諸如"開始一個事務"或者"根據主鍵提取一行記錄"等操作,存儲引擎不能解析SQL,互相之間也不能通信。只是簡單地響應上層服務器的請求

SQL查詢語句的執行流程

step1:使用連接器與客户端建立連接

首先客户端會先連接到指定數據庫上,這時候接待的就是連接器。連接器負責跟客户端建立連接、獲取權限、維持和管理連接

我們在Linux上會通過以下方式與MySQL建立連接,連接命令中的"mysql"是客户端工具

mysql -h$ip -P$port -u$user -p

在完成經典的TCP 握手後,連接器就要開始認證你的身份,這個時候用的就是你輸入的用户名和密碼:

  • 如果用户名或密碼不對,你就會收到一個"Access denied for user"的錯誤,然後客户端程序結束執行
  • 如果用户名密碼認證通過,連接器會到權限表裏面查出你擁有的權限。之後這個連接裏面的權限判斷邏輯,都將依賴於此時讀到的權限。這就意味着一個用户成功建立連接後,即使你用管理員賬號對這個用户的權限做了修改,也不會影響已經存在連接的權限。修改完成後,只有再新建的連接才會使用新的權限設置

連接完成後,如果你沒有後續的動作,這個連接就處於空閒狀態,可以輸入show processlist 命令看到全部的連接,Command 列顯示為“Sleep”的這一行,就表示現在系統裏面有一個空閒連接

企業微信截圖_16348234821060.png

客户端如果太長時間沒動靜,連接器就會自動將它斷開。這個時間是由參數 wait_timeout 控制的,默認值是 8 小時。如果在連接被斷開之後,客户端再次發送請求的話,就會收到一個錯誤提醒: Lost connection to MySQL server during query,這時候如果你要繼續,就需要重連,然後再執行請求了

數據庫的連接分為有長連接和短連接:

  • 長連接:指連接成功後,如果客户端持續有請求,則一直使用同一個連接
  • 短連接:指每次執行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個

建立連接的過程通常是比較複雜的,因此建議在使用中要儘量減少建立連接的動作,也就是儘量使用長連接

但是全部使用長連接後,你可能會發現,有些時候 MySQL 佔用內存漲得特別快,這是因為 MySQL 在執行過程中臨時使用的內存是管理在連接對象裏面的。這些資源會在連接斷開的時候才釋放。所以如果長連接累積下來,可能導致內存佔用太大,被系統強行殺掉(OOM),從現象看就是 MySQL 異常重啟了

怎麼解決這個問題呢?你可以考慮以下兩種方案:

  • 定期斷開長連接。使用一段時間,或者程序裏面判斷執行過一個佔用內存的大查詢後,斷開連接,之後要查詢再重連
  • 如果你用的是 MySQL 5.7 或更新版本,可以在每次執行一個比較大的操作後,通過執行 mysql_reset_connection 來重新初始化連接資源。這個過程不需要重連和重新做權限驗證,但是會將連接恢復到剛剛創建完時的狀態

step2:查詢緩存,有就直接返回查詢結果

連接建立完成後,你就可以執行 select 語句了。執行邏輯就會來到第二步:查詢緩存

MySQL 拿到一個查詢請求後,會先到查詢緩存看看,之前是不是執行過這條語句。之前執行過的語句及其結果可能會以 key-value 對的形式,被直接緩存在內存中。key 是查詢的語句,value 是查詢的結果。如果你的查詢能夠直接在這個緩存中找到 key,那麼這個 value 就會被直接返回給客户端

如果語句不在查詢緩存中,就會繼續後面的執行階段。執行完成後,執行結果會被存入查詢緩存中。你可以看到,如果查詢命中緩存,MySQL 不需要執行後面的複雜操作,就可以直接返回結果,這個效率會很高

但是大多數情況下我會建議你不要使用查詢緩存,為什麼呢?因為查詢緩存往往弊大於利。查詢緩存的失效非常頻繁,只要有對一個表的更新,這個表上所有的查詢緩存都會被清空。因此很可能你費勁地把結果存起來,還沒使用呢,就被一個更新全清空了。對於更新壓力大的數據庫來説,查詢緩存的命中率會非常低。除非你的業務就是有一張靜態表,很長時間才會更新一次。比如,一個系統配置表,那這張表上的查詢才適合使用查詢緩存

好在 MySQL 也提供了這種“按需使用”的方式。你可以將參數 query_cache_type 設置成 DEMAND,這樣對於默認的 SQL 語句都不使用查詢緩存。而對於你確定要使用查詢緩存的語句,可以用 SQL_CACHE 顯式指定,像下面這個語句一樣:

select SQL_CACHE * from T where ID=10;

注意:MySQL 8.0 版本直接將查詢緩存的整塊功能刪掉了

step3:使用分析器解析你的SQL,知道你要做什麼

分析器如果沒有命中查詢緩存,就要開始真正執行語句了。MySQL首先需要知道你要做什麼,因此需要對 SQL 語句做解析

分析器先會做“詞法分析”:你輸入的是由多個字符串和空格組成的一條 SQL 語句,MySQL 需要識別出裏面的字符串分別是什麼,代表什麼。MySQL 從你輸入的"select"這個關鍵字識別出來,這是一個查詢語句。它也要把字符串“T”識別成“表名 T”,把字符串“ID”識別成“列 ID”

做完了這些識別以後,就要做“語法分析”:根據詞法分析的結果,語法分析器會根據語法規則,判斷你輸入的這個 SQL 語句是否滿足 MySQL 語法。如果你的語句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下面這個語句 select 少打了開頭的字母“s” ``` mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1, ```

一般語法錯誤會提示第一個出現錯誤的位置,所以你要關注的是緊接“use near”的內容

step4:使用優化器確定語句的執行方案

經過了分析器,MySQL 就知道你要做什麼了。在開始執行之前,還要先經過優化器的處理

優化器是在表裏面有多個索引的時候,決定使用哪個索引;或者在一個語句有多表關聯(join)的時候,決定各個表的連接順序

比如執行下面這樣的語句,這個語句是執行兩個表的 join:

select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;

  • 既可以先從表 t1 裏面取出 c=10 的記錄的 ID 值,再根據 ID 值關聯到表 t2,再判斷 t2 裏面 d 的值是否等於 20。
  • 也可以先從表 t2 裏面取出 d=20 的記錄的 ID 值,再根據 ID 值關聯到 t1,再判斷 t1 裏面 c 的值是否等於 10。

這兩種執行方法的邏輯結果是一樣的,但是執行的效率會有不同,而優化器的作用就是決定選擇使用哪一個方案。優化器階段完成後,這個語句的執行方案就確定下來了

step5:使用執行器執行語句

MySQL 通過分析器知道了你要做什麼,通過優化器知道了該怎麼做,於是就進入了執行器階段,開始執行語句

開始執行的時候,要先判斷你對這個表 T 有沒有執行查詢的權限: - 如果沒有,就會返回沒有權限的錯誤,如下所示 (在工程實現上,如果命中查詢緩存,會在查詢緩存返回結果的時候,做權限驗證。查詢也會在優化器之前調用 precheck 驗證權限)。

``` mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1 ```

  • 如果有權限,就打開表繼續執行。打開表的時候,執行器就會根據表的引擎定義,去使用這個引擎提供的接口

比如我們這個例子中的表 T 中,ID 字段沒有索引,那麼執行器的執行流程是這樣的:

  1. 調用 InnoDB 引擎接口取這個表的第一行,判斷 ID 值是不是 10,如果不是則跳過,如果是則將這行存在結果集中;
  2. 調用引擎接口取“下一行”,重複相同的判斷邏輯,直到取到這個表的最後一行。
  3. 執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客户端。

對於有索引的表,執行的邏輯也差不多:

  1. 第一次調用的是“取滿足條件的第一行”這個接口,
  2. 之後循環取“滿足條件的下一行”這個接口,這些接口都是引擎中已經定義好的。

你會在數據庫的慢查詢日誌中看到一個 rows_examined 的字段,表示這個語句執行過程中掃描了多少行。這個值就是在執行器每次調用引擎獲取數據行的時候累加的。但在有些場景下,執行器調用一次,在引擎內部則掃描了多行,因此引擎掃描行數跟 rows_examined 並不是完全相同的

總結

  • MySQL的邏輯架構包含兩部分,server層存儲引擎層

  • SQL查詢語句的執行依賴於這些核心組件:先通過連接器與客户端進行連接,隨後查詢是否可以應用緩存,可以直接返回結果,不可以則使用解析器分析SQL,然後利用優化器確定執行方案,最終利用執行器存儲引擎執行SQL獲取結果

最後

如果覺得這篇文章對你有幫助,求大家幫忙點個贊,謝謝各位!

也歡迎大家關注我的公眾號:極客後端,目前處於起步階段,後續會逐漸更新優質文章

qrcode_for_gh_05b6b67b4f97_258.jpg