淘宝内部分享:MySQL MariaDB性能优化
淘寶內(nèi)部分享:MySQL & MariaDB性能優(yōu)化
摘要:MySQL是目前使用最多的開源數(shù)據(jù)庫,但是MySQL數(shù)據(jù)庫的默認(rèn)設(shè)置性能非常的差,必須進(jìn)行不斷的優(yōu)化,而優(yōu)化是一個(gè)復(fù)雜的任務(wù),本文描述淘寶數(shù)據(jù)庫團(tuán)隊(duì)針對MySQL相關(guān)的數(shù)據(jù)庫優(yōu)化方案。
編者按:MySQL是目前使用最多的開源數(shù)據(jù)庫,但是MySQL數(shù)據(jù)庫的默認(rèn)設(shè)置性能非常的差,必須進(jìn)行不斷的優(yōu)化,而優(yōu)化是一個(gè)復(fù)雜的任務(wù),本文描述淘寶數(shù)據(jù)庫團(tuán)隊(duì)針對MySQL數(shù)據(jù)庫Metadata Lock子系統(tǒng)的優(yōu)化,hash_scan 算法的實(shí)現(xiàn)解析的性能優(yōu)化,TokuDB·版本優(yōu)化,以及MariaDB·的性能優(yōu)化。本文來自淘寶團(tuán)隊(duì)內(nèi)部經(jīng)驗(yàn)分享。
往期文章:淘寶內(nèi)部分享:怎么跳出MySQL的10個(gè)大坑
MySQL· 5.7優(yōu)化·Metadata Lock子系統(tǒng)的優(yōu)化
背景
引入MDL鎖的目的,最初是為了解決著名的bug#989,在MySQL 5.1及之前的版本,事務(wù)執(zhí)行過程中并不維護(hù)涉及到的所有表的Metatdata 鎖,極易出現(xiàn)復(fù)制中斷,例如如下執(zhí)行序列:
Session 1: BEGIN;Session 1: INSERT INTO t1 VALUES (1);
Session 2: Drop table t1; --------SQL寫入BINLOG
Session 1: COMMIT; -----事務(wù)寫入BINLOG
在備庫重放 binlog時(shí),會先執(zhí)行DROP TABLE,再INSERT數(shù)據(jù),從而導(dǎo)致復(fù)制中斷。
在MySQL 5.5版本里,引入了MDL, 在事務(wù)過程中涉及到的所有表的MDL鎖,直到事務(wù)結(jié)束才釋放。這意味著上述序列的DROP TABLE 操作將被Session 1阻塞住直到其提交。
不過用過5.5的人都知道,MDL實(shí)在是個(gè)讓人討厭的東西,相信不少人肯定遇到過在使用mysqldump做邏輯備份時(shí),由于需要執(zhí)行FLUSH TABLES WITH READ LOCK (以下用FTWRL縮寫代替)來獲取全局GLOBAL的MDL鎖,因此經(jīng)常可以看到“wait for global read lock”之類的信息。如果備庫存在大查詢,或者復(fù)制線程正在執(zhí)行比較漫長的DDL,并且FTWRL被block住,那么隨后的QUERY都會被block住,導(dǎo)致業(yè)務(wù)不可用引發(fā)故障。
為了解決這個(gè)問題,Facebook為MySQL增加新的接口替換掉FTWRL 只創(chuàng)建一個(gè)read view ,并返回與read view一致的binlog位點(diǎn);另外Percona Server也實(shí)現(xiàn)了一種類似的辦法來繞過FTWRL,具體點(diǎn)擊文檔連接以及percona的博客,不展開闡述。
MDL解決了bug#989,卻引入了一個(gè)新的熱點(diǎn),所有的MDL鎖對象被維護(hù)在一個(gè)hash對象中;對于熱點(diǎn),最正常的想法當(dāng)然是對其進(jìn)行分區(qū)來分散熱點(diǎn),不過這也是Facebook的大神Mark Callaghan在report了bug#66473后才加入的,當(dāng)時(shí)Mark觀察到MDL_map::mutex的鎖競爭非常高,進(jìn)而推動官方改變。因此在MySQL 5.6.8及之后的版本中,引入了新參數(shù)metadata_locks_hash_instances來控制對mdl hash的分區(qū)數(shù)(Rev:4350);
不過故事還沒結(jié)束,后面的測試又發(fā)現(xiàn)哈希函數(shù)有問題,somedb. someprefix1 … .somedb .someprefix8 的hash key值相同,都被hash到同一個(gè)桶下面了,相當(dāng)于hash分區(qū)沒生效。這屬于hash算法的問題,喜歡考古的同學(xué)可以閱讀下bug#66473后面Dmitry Lenev的分析。
Mark進(jìn)一步的測試發(fā)現(xiàn)Innodb的hash計(jì)算算法比my_hash_sort_bin要更高效, Oracle的開發(fā)人員重開了個(gè)bug#68487來跟蹤該問題,并在MySQL5.6.15對hash key計(jì)算函數(shù)進(jìn)行優(yōu)化,包括fix 上面說的hash計(jì)算問題(Rev:5459),使用MurmurHash3算法來計(jì)算mdl key的hash值。
MySQL 5.7 對MDL鎖的優(yōu)化
在MySQL 5.7里對MDL子系統(tǒng)做了更為徹底的優(yōu)化。主要從以下幾點(diǎn)出發(fā):
第一,盡管對MDL HASH進(jìn)行了分區(qū),但由于是以表名+庫名的方式作為key值進(jìn)行分區(qū),如果查詢或者DML都集中在同一張表上,就會hash到相同的分區(qū),引起明顯的MDL HASH上的鎖競爭。
針對這一點(diǎn),引入了LOCK-FREE的HASH來存儲MDL_lock,LF_HASH無鎖算法基于論文"Split-Ordered Lists: Lock-Free Extensible Hash Tables",實(shí)現(xiàn)還比較復(fù)雜。 注:實(shí)際上LF_HASH很早就被應(yīng)用于Performance Schema,算是比較成熟的代碼模塊。由于引入了LF_HASH,MDL HASH分區(qū)特性自然直接被廢除了 。對應(yīng)WL#7305, PATCH(Rev:7249)
第二,從廣泛使用的實(shí)際場景來看,DML/SELECT相比DDL等高級別MDL鎖類型,是更為普遍的,因此可以針對性的降低DML和SELECT操作的MDL開銷。
為了實(shí)現(xiàn)對DML/SELECT的快速加鎖,使用了類似LOCK-WORD的加鎖方式,稱之為FAST-PATH,如果FAST-PATH加鎖失敗,則走SLOW-PATH來進(jìn)行加鎖。
每個(gè)MDL鎖對象(MDL_lock)都維持了一個(gè)long long類型的狀態(tài)值來標(biāo)示當(dāng)前的加鎖狀態(tài),變量名為MDL_lock::m_fast_path_state 舉個(gè)簡單的例子:(初始在sbtest1表上對應(yīng)MDL_lock::m_fast_path_state值為0)
Session 1: BEGIN;Session 1: SELECT * FROM sbtest1 WHERE id =1; //m_fast_path_state = 1048576, MDL ticket 不加MDL_lock::m_granted隊(duì)列
Session 2: BEGIN;
Session 2: SELECT * FROM sbtest1 WHERE id =2; //m_fast_path_state=1048576+1048576=2097152,同上,走FAST PATH
Session 3: ALTER TABLE sbtest1 ENGINE = INNODB; //DDL請求加的MDL_SHARED_UPGRADABLE類型鎖被視為unobtrusive lock,可以認(rèn)為這個(gè)是比上述SQL的MDL鎖級別更高的鎖,并且不相容,因此被強(qiáng)制走slow path。而slow path是需要加MDL_lock::m_rwlock的寫鎖。m_fast_path_state = m_fast_path_state | MDL_lock::HAS_SLOW_PATH | MDL_lock::HAS_OBTRUSIVE
注:DDL還會獲得庫級別的意向排他MDL鎖或者表級別的共享可升級鎖,但為了表述方便,這里直接忽略了,只考慮涉及的同一個(gè)MDL_lock鎖對象。
Session 4: SELECT * FROM sbtest1 WHERE id =3; // 檢查m_fast_path_state &HAS_OBTRUSIVE,如果DDL還沒跑完,就會走slow path。
從上面的描述可以看出,MDL子系統(tǒng)顯式的對鎖類型進(jìn)行了區(qū)分(OBTRUSIVE or UNOBTRUSIVE),存儲在數(shù)組矩陣m_unobtrusive_lock_increment。 因此對于相容類型的MDL鎖類型,例如DML/SELECT,加鎖操作幾乎沒有任何讀寫鎖或MUTEX開銷。對應(yīng)WL#7304,?WL#7306?, PATCH(Rev:7067,Rev:7129)(Rev:7586)
第三,由于引入了MDL鎖,實(shí)際上早期版本用于控制Server和引擎層表級并發(fā)的THR_LOCK 對于Innodb而言已經(jīng)有些冗余了,因此Innodb表完全可以忽略這部分的開銷。
不過在已有的邏輯中,Innodb依然依賴THR_LOCK來實(shí)現(xiàn)LOCK TABLE tbname READ,因此增加了新的MDL鎖類型來代替這種實(shí)現(xiàn)。實(shí)際上代碼的大部分修改都是為了處理新的MDL類型,Innodb的改動只有幾行代碼。對應(yīng)WL#6671,PATCH(Rev:8232)
第四,Server層的用戶鎖(通過GET_LOCK函數(shù)獲取)使用MDL來重新實(shí)現(xiàn)。
用戶可以通過GET_LOCK()來同時(shí)獲取多個(gè)用戶鎖,同時(shí)由于使用MDL來實(shí)現(xiàn),可以借助MDL子系統(tǒng)實(shí)現(xiàn)死鎖的檢測。注意由于該變化,導(dǎo)致用戶鎖的命名必須小于64字節(jié),這是受MDL子系統(tǒng)的限制導(dǎo)致。對應(yīng)WL#1159, PATCH(Rev:8356)
MySQL·性能優(yōu)化·hash_scan 算法的實(shí)現(xiàn)解析
問題描述
首先,我們執(zhí)行下面的TestCase:
[js] view plaincopyprint?[js] view plaincopyprint?
如何解決問題:
hash_scan 的實(shí)現(xiàn)方法:
簡單的講,在 apply rows_log_event時(shí),會將 log_event 中對行的更新緩存在兩個(gè)結(jié)構(gòu)中,分別是:m_hash, m_distinct_key_list。 m_hash:主要用來緩存更新的行記錄的起始位置,是一個(gè)hash表; m_distinct_key_list:如果有索引,則將索引的值push 到m_distinct_key_list,如果表沒有索引,則不使用這個(gè)List結(jié)構(gòu); 其中預(yù)掃描整個(gè)調(diào)用過程如下: Log_event::apply_event
[js] view plaincopyprint?執(zhí)行 stack 如下:
執(zhí)行過程說明:
Rows_log_event::do_scan_and_update
[js] view plaincopyprint?hash_scan 的一個(gè) bug
bug詳情:http://bugs.mysql.com/bug.php?id=72788bug原因:m_distinct_key_list 中的index key 不是唯一的,所以存在著對已經(jīng)刪除了的記錄重復(fù)刪除的問題。
bug修復(fù):http://bazaar.launchpad.net/~mysql/mysql-server/5.7/revision/8494
問題擴(kuò)展:
- 在沒有索引的情況下,是不是把 hash_scan 打開就能提高效率,降低延遲呢?不一定,如果每次更新操作只一條記錄,此時(shí)仍然需要全表掃描,并且由于entry 的開銷,應(yīng)該會有后退的情況;
- 一個(gè)event中能包含多少條記錄的更新呢?這個(gè)和表結(jié)構(gòu)以及記錄的數(shù)據(jù)大小有關(guān),一個(gè)event 的大小不會超過9000 bytes, 沒有參數(shù)可以控制這個(gè)size;
- hash_scan 有沒有限制呢?hash_scan 只會對更新、刪除操作有效,對于binlog_format=statement 產(chǎn)生的 Query_log_event 或者binlog_format=row 時(shí)產(chǎn)生的 Write_rows_log_event 不起作用;
TokuDB·版本優(yōu)化·7.5.0
TokuDB 7.5.0大版本已發(fā)布,是一個(gè)里程碑的版本,這里談幾點(diǎn)優(yōu)化,以饗存儲引擎愛好者們。
a) shutdown加速
有用戶反饋TokuDB在shutdown的時(shí)候,半個(gè)小時(shí)還沒完事,非常不可接受。在shutdown的時(shí)候,TokuDB在干什么呢?在做checkpoint,把內(nèi)存中的節(jié)點(diǎn)數(shù)據(jù)序列化并壓縮到磁盤。
那為什么如此耗時(shí)呢?如果tokudb_cache_size開的比較大,內(nèi)存中的節(jié)點(diǎn)會非常多,在shutdown的時(shí)候,大家都排隊(duì)等著被壓縮到磁盤(串行的)。
在7.5.0版本,TokuDB官方針對此問題進(jìn)行了優(yōu)化,使多個(gè)節(jié)點(diǎn)并行壓縮來縮短時(shí)間。
BTW: TokuDB在早期設(shè)計(jì)的時(shí)候已保留并行接口,只是一直未開啟。
b) 內(nèi)節(jié)點(diǎn)讀取加速
在內(nèi)存中,TokuDB內(nèi)節(jié)點(diǎn)(internal node)的每個(gè)message buffer都有2個(gè)重要數(shù)據(jù)結(jié)構(gòu):
1) FIFO結(jié)構(gòu),保存{key, value}?2) OMT結(jié)構(gòu),保存{key, FIFO-offset}
由于FIFO不具備快速查找特性,就利用OMT來做快速查找(根據(jù)key查到value)。這樣,當(dāng)內(nèi)節(jié)點(diǎn)發(fā)生cache miss的時(shí)候,索引層需要做:
1) 從磁盤讀取節(jié)點(diǎn)內(nèi)容到內(nèi)存?2) 構(gòu)造FIFO結(jié)構(gòu)
?3) 根據(jù)FIFO構(gòu)造OMT結(jié)構(gòu)(做排序)
由于TokuDB內(nèi)部有不少性能探(ji)針(shu),他們發(fā)現(xiàn)步驟3)是個(gè)不小的性能消耗點(diǎn),因?yàn)槊看味家裮essage buffer做下排序構(gòu)造出OMT,于是在7.5.0版本,把OMT的FIFO-offset(已排序)也持久化到磁盤,這樣排序的損耗就沒了。
c) 順序?qū)懠铀?/strong>
當(dāng)寫發(fā)生的時(shí)候,會根據(jù)當(dāng)前的key在pivots里查找(二分)當(dāng)前寫要落入哪個(gè)mesage buffer,如果寫是順序(或局部順序,數(shù)據(jù)走向?yàn)樽钣疫吢窂?的,就可以避免由"查找"帶來的額外開銷。
如何判斷是順序?qū)懩?#xff1f;TokuDB使用了一種簡單的啟發(fā)式方法(heurstic):seqinsert_score積分式。如果:
1) 當(dāng)前寫入落入最右節(jié)點(diǎn),對seqinsert_score加一分(原子)2) 當(dāng)前寫入落入非最右節(jié)點(diǎn),對seqinsert_score清零(原子) 當(dāng)seqinsert_score大于100的時(shí)候,就可以認(rèn)為是順序?qū)?#xff0c;當(dāng)下次寫操作發(fā)生時(shí),首先與最右的節(jié)點(diǎn)pivot進(jìn)行對比判斷,如果確實(shí)為順序?qū)?#xff0c;則會被寫到該節(jié)點(diǎn),省去不少compare開銷。方法簡單而有效。
MariaDB· 性能優(yōu)化·filesort with small LIMIT optimization
從MySQL 5.6.2/MariaDB 10.0.0版本開始,MySQL/MariaDB針對"ORDER BY ...LIMIT n"語句實(shí)現(xiàn)了一種新的優(yōu)化策略。當(dāng)n足夠小的時(shí)候,優(yōu)化器會采用一個(gè)容積為n的優(yōu)先隊(duì)列來進(jìn)行排序,而不是排序所有數(shù)據(jù)然后取出前n條。 這個(gè)新算法可以這么描述:(假設(shè)是ASC排序)
這樣的算法,時(shí)間復(fù)雜度為m*log(n),m為索引過濾后的行數(shù),n為LIMIT的行數(shù)。而原始的全排序算法,時(shí)間復(fù)雜度為m*log(m)。只要n遠(yuǎn)小于m,這個(gè)算法就會很有效。
不過在MySQL 5.6中,除了optimizer_trace,沒有好的方法來看到這個(gè)新的執(zhí)行計(jì)劃到底起了多少作用。MariaDB 10.013開始,提供一個(gè)系統(tǒng)狀態(tài),可以查看新執(zhí)行計(jì)劃調(diào)用的次數(shù):
Sort_priority_queue_sorts?描述: 通過優(yōu)先隊(duì)列實(shí)現(xiàn)排序的次數(shù)。(總排序次數(shù)=Sort_range+Sort_scan)
?范圍: Global, Session
?數(shù)據(jù)類型: numeric
?引入版本: MariaDB 10.0.13 此外,MariaDB還將此信息打入了Slow Log中。只要指定 log_slow_verbosity=query_plan,就可以在Slow Log中看到這樣的記錄:
[js] view plaincopyprint?
本文轉(zhuǎn)載自MySQL.taobao.org ,感謝淘寶數(shù)據(jù)庫項(xiàng)目組丁奇、鳴嵩、彭立勛、皓庭、項(xiàng)仲、劍川、武藏、祁奚、褚霸、一工。審校:劉亞瓊
總結(jié)
以上是生活随笔為你收集整理的淘宝内部分享:MySQL MariaDB性能优化的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 周鸿祎对企业的深刻反思,太有借鉴意义了!
- 下一篇: 10年前,三星差点收购了安卓