讲真,MySQL索引优化看这篇文章就够了
本文主要討論MySQL索引的部分知識。將會從MySQL索引基礎(chǔ)、索引優(yōu)化實戰(zhàn)和數(shù)據(jù)庫索引背后的數(shù)據(jù)結(jié)構(gòu)三部分相關(guān)內(nèi)容,下面一一展開。
一、MySQL——索引基礎(chǔ)
?
首先,我們將從索引基礎(chǔ)開始介紹一下什么是索引,分析索引的幾種類型,并探討一下如何創(chuàng)建索引以及索引設(shè)計的基本原則。
?
此部分用于測試索引創(chuàng)建的t_erp_user表的結(jié)構(gòu)如下:
1、什么是索引
?
“索引(在MySQL中也叫“鍵key”)是存儲引擎快速找到記錄的一種數(shù)據(jù)結(jié)構(gòu)?!?/p>
——《高性能MySQL》
?
我們需要知道索引其實是一種數(shù)據(jù)結(jié)構(gòu),其功能是幫助我們快速匹配查找到需要的數(shù)據(jù)行,是數(shù)據(jù)庫性能優(yōu)化最常用的工具之一。其作用相當(dāng)于超市里的導(dǎo)購員、書本里的目錄。
?
2、索引類型
?
可以使用SHOW INDEX FROM table_name;查看索引詳情:
主鍵索引 PRIMARY KEY
?
它是一種特殊的唯一索引,不允許有空值。一般是在建表的時候同時創(chuàng)建主鍵索引。注意:一個表只能有一個主鍵。
唯一索引 UNIQUE
?
唯一索引列的值必須唯一,但允許有空值。如果是組合索引,則列值的組合必須唯一。
?
可以通過ALTER TABLE table_name ADD UNIQUE (column);創(chuàng)建唯一索引;
可以通過ALTER TABLE table_name ADD UNIQUE (column1,column2);創(chuàng)建唯一組合索引:
普通索引 INDEX
?
這是最基本的索引,它沒有任何限制。
?
可以通過ALTER TABLE table_name ADD INDEX index_name (column);創(chuàng)建普通索引;
組合索引 INDEX
?
即一個索引包含多個列,多用于避免回表查詢。
?
可以通過ALTER TABLE table_name ADD INDEX index_name(column1,column2, column3);創(chuàng)建組合索引;
全文索引 FULLTEXT
?
也稱全文檢索,是目前搜索引擎使用的一種關(guān)鍵技術(shù)。
?
可以通過ALTER TABLE table_name ADD FULLTEXT (column);創(chuàng)建全文索引;
索引一經(jīng)創(chuàng)建不能修改,如果要修改索引,只能刪除重建。可以使用DROP INDEX index_name ON table_name;刪除索引。
3、索引設(shè)計的原則
?
適合索引的列是出現(xiàn)在where子句中的列,或者連接子句中指定的列;
基數(shù)較小的類,索引效果較差,沒有必要在此列建立索引;
使用短索引,如果對長字符串列進行索引,應(yīng)該指定一個前綴長度,這樣能夠節(jié)省大量索引空間;
不要過度索引。索引需要額外的磁盤空間,并降低寫操作的性能。在修改表內(nèi)容的時候,索引會進行更新甚至重構(gòu),索引列越多,這個時間就會越長。所以只保持需要的索引有利于查詢即可。
?
?
二、MySQL——索引優(yōu)化實戰(zhàn)
上面我們介紹了索引的基本內(nèi)容,這部分我們介紹索引優(yōu)化實戰(zhàn)。在介紹索引優(yōu)化實戰(zhàn)之前,首先要介紹兩個與索引相關(guān)的重要概念,這兩個概念對于索引優(yōu)化至關(guān)重要。
1、索引相關(guān)的重要概念
?
基數(shù)
?
單個列唯一鍵(distict_keys)的數(shù)量叫做基數(shù)。
?
SELECT COUNT(id),COUNT(DISTINCT company_id),COUNT(DISTINCT mobile),COUNT(DISTINCT name) FROM t_erp_user;
user表的總行數(shù)是1420,company_id列的基數(shù)是765,說明company_id列里面有大量重復(fù)值,name列的基數(shù)將近等于總行數(shù),說明name列沒有重復(fù)值,相當(dāng)于主鍵。
返回數(shù)據(jù)的比例:
?
user表中共有1420條數(shù)據(jù):
?
SELECT * FROM t_erp_user;
?
查詢滿足提交(company_id = 3)的記錄數(shù):
那么返回記錄的比例是:SELECT 64/1420 = 0.0451
同理,查詢name為大師傅的記錄數(shù):SELECT * FROM t_erp_user where name='大師傅';
返回比例的數(shù)是:SELECT 1/1420 = 0.0007
現(xiàn)在問題來了,假設(shè)company_id和name列都有索引,那么SELECT * FROM t_erp_user where company_id = 3; 和SELECT * FROM t_erp_user where name='大師傅';都能命中索引嗎?
t_erp_user表的索引詳情:
?
?
?
?
從上圖,我們看出EXPLAIN SELECT * FROM t_erp_user where company_id = 3;命中了索引company_id
返回表中30%內(nèi)的數(shù)據(jù)會走索引,返回超過30%數(shù)據(jù)就會使用全表掃描,當(dāng)然也并不是絕對的30%,只是一個大概的范圍。
?
回表
?
當(dāng)對一個列創(chuàng)建索引之后,索引會包含該列的鍵值及鍵值對應(yīng)行所在的rowid。通過索引中記錄的rowid訪問表中的數(shù)據(jù)就叫回表?;乇泶螖?shù)太多會嚴重影響SQL性能,如果回表次數(shù)太多,就不應(yīng)該走索引掃描,應(yīng)該直接走全表掃描。
?
EXPLAIN命令結(jié)果中的Using Index意味著不會回表,通過索引就可以獲得主要的數(shù)據(jù)。Using Where則意味著需要回表取數(shù)據(jù)。
?
2、索引優(yōu)化實戰(zhàn)
?
有些時候雖然數(shù)據(jù)庫有索引,但是并不被優(yōu)化器選擇使用。
?
我們可以通過SHOW STATUS LIKE 'Handler_read%';查看索引的使用情況:
Handler_read_key:如果索引正在工作,Handler_read_key的值將很高。
Handler_read_rnd_next:數(shù)據(jù)文件中讀取下一行的請求數(shù),如果正在進行大量的表掃描,值將較高,則說明索引利用不理想。
索引優(yōu)化規(guī)則:
如果MySQL估計使用索引比全表掃描還慢,則不會使用索引。
返回數(shù)據(jù)的比例是重要的指標,比例越低越容易命中索引。記住這個范圍值——30%,后面所講的內(nèi)容都是建立在返回數(shù)據(jù)的比例在30%以內(nèi)的基礎(chǔ)上。
前導(dǎo)模糊查詢不能命中索引。
name列創(chuàng)建普通索引
前導(dǎo)模糊查詢不能命中索引:
EXPLAIN SELECT * FROM t_erp_user WHERE name LIKE '%s%';
非前導(dǎo)模糊查詢則可以使用索引,可優(yōu)化為使用非前導(dǎo)模糊查詢:
EXPLAIN SELECT * FROM t_erp_user WHERE name LIKE 's%';
數(shù)據(jù)類型出現(xiàn)隱式轉(zhuǎn)換的時候不會命中索引,特別是當(dāng)列類型是字符串,一定要將字符常量值用引號引起來。
EXPLAIN SELECT * FROM t_erp_user WHERE name=1;
EXPLAIN SELECT * FROM t_erp_user WHERE name='1';
復(fù)合索引的情況下,查詢條件不包含索引列最左邊部分(不滿足最左原則),不會命中符合索引。
name,mobile,company_id列創(chuàng)建復(fù)合索引:
ALTER TABLE t_erp_user ADD INDEX index_name (name,mobile,company_id);
user表索引詳情:
SHOW INDEX FROM t_erp_user ;
根據(jù)最左原則,可以命中復(fù)合索引index_name:
EXPLAIN SELECT * FROM t_erp_user WHERE name='大師傅' AND company_id=3;
注意,最左原則并不是說是查詢條件的順序:
EXPLAIN SELECT * FROM t_erp_user WHERE company_id=3 AND name='大師傅';
而是查詢條件中是否包含索引最左列字段:
EXPLAIN SELECT * FROM t_erp_user WHERE company_id=3?;
union、in、or都能夠命中索引,建議使用in。
union:
EXPLAIN SELECT*FROM t_erp_user WHERE company=10
UNION ALL
SELECT*FROM t_erp_user WHERE company_id= 12;
in:
EXPLAIN SELECT * FROM t_erp_user WHERE company_id IN (10,12);
or:
EXPLAIN SELECT*FROM t_erp_user WHERE company_id=10 OR company_id=12;
查詢的CPU消耗:or>in>union
用or分割開的條件,如果or前的條件中列有索引,而后面的列中沒有索引,那么涉及到的索引都不會被用到。
?
EXPLAIN SELECT * FROM t_erp_user WHERE company_id= 10 OR code= 12304;
因為or后面的條件列中沒有索引,那么后面的查詢肯定要走全表掃描,在存在全表掃描的情況下,就沒有必要多一次索引掃描增加IO訪問。
負向條件查詢不能使用索引,可以優(yōu)化為in查詢。
負向條件有:!=、<>、not in、not exists、not like等。
ALTER TABLE t_erp_user? ADD INDEX index_status (status);
負向條件不能命中緩存:
EXPLAIN SELECT * FROM t_erp_user? WHERE status !=1 AND status != 2;
可以優(yōu)化為in查詢,但是前提是區(qū)分度要高,返回數(shù)據(jù)的比例在30%以內(nèi):
EXPLAIN SELECT * FROM t_erp_user? WHERE status IN (0,3,4);
范圍條件查詢可以命中索引。范圍條件有:<、<=、>、>=、between等。
EXPLAIN SELECT * FROM t_erp_user? WHERE status>5;
范圍列可以用到索引(聯(lián)合索引必須是最左前綴),但是范圍列后面的列無法用到索引,索引最多用于一個范圍列,如果查詢條件中有兩個范圍列則無法全用到索引:
?
EXPLAIN SELECT * FROM t_erp_user? WHERE status>5 AND age<24;
如果是范圍查詢和等值查詢同時存在,優(yōu)先匹配等值查詢列的索引:
?
EXPLAIN SELECT * FROM t_erp_user? WHERE status>5 AND age=24;
數(shù)據(jù)庫執(zhí)行計算不會命中索引。
EXPLAIN SELECT * FROM t_erp_user? WHERE age>24;
EXPLAIN SELECT * FROM t_erp_user? WHERE age+1>24;
計算邏輯應(yīng)該盡量放到業(yè)務(wù)層處理,節(jié)省數(shù)據(jù)庫的CPU的同時最大限度的命中索引。
利用覆蓋索引進行查詢,避免回表。
被查詢的列,數(shù)據(jù)能從索引中取得,而不用通過行定位符row-locator再到row上獲取,即“被查詢列要被所建的索引覆蓋”,這能夠加速查詢速度。
Using Index代表從索引中查詢:EXPLAIN SELECT status FROM t_erp_user? where status=1;
當(dāng)查詢其他列時,就需要回表查詢,這也是為什么要避免SELECT*的原因之一:
EXPLAIN SELECT * FROM t_erp_user? where status=1;
建立索引的列,不允許為null。
單列索引不存null值,復(fù)合索引不存全為null的值,如果列允許為null,可能會得到“不符合預(yù)期”的結(jié)果集,所以,請使用not null約束以及默認值。
remark列建立索引:
ALTER TABLE t_erp_user? ADD INDEX index_remark (remark);
IS NULL可以命中索引:
EXPLAIN SELECT * FROM t_erp_user? WHERE remark IS NULL;
IS NOT NULL不能命中索引:
EXPLAIN SELECT * FROM t_erp_user? WHERE remark IS NOT NULL;
雖然IS NULL可以命中索引,但是NULL本身就不是一種好的數(shù)據(jù)庫設(shè)計,應(yīng)該使用NOT NULL約束以及默認值。
?
1、更新十分頻繁的字段上不宜建立索引:因為更新操作會變更B+樹,重建索引。這個過程是十分消耗數(shù)據(jù)庫性能的。
2、區(qū)分度不大的字段上不宜建立索引:類似于性別這種區(qū)分度不大的字段,建立索引的意義不大。因為不能有效過濾數(shù)據(jù),性能和全表掃描相當(dāng)。另外返回數(shù)據(jù)的比例在30%以外的情況下,優(yōu)化器不會選擇使用索引。
3.業(yè)務(wù)上具有唯一特性的字段,即使是多個字段的組合,也必須建成唯一索引。雖然唯一索引會影響insert速度,但是對于查詢的速度提升是非常明顯的。另外,即使在應(yīng)用層做了非常完善的校驗控制,只要沒有唯一索引,在并發(fā)的情況下,依然有臟數(shù)據(jù)產(chǎn)生。
4、多表關(guān)聯(lián)時,要保證關(guān)聯(lián)字段上一定有索引。
5、創(chuàng)建索引時避免以下錯誤觀念:索引越多越好,認為一個查詢就需要建一個索引;寧缺勿濫,認為索引會消耗空間、嚴重拖慢更新和新增速度;抵制唯一索引,認為業(yè)務(wù)的唯一性一律需要在應(yīng)用層通過“先查后插”方式解決;過早優(yōu)化,在不了解系統(tǒng)的情況下就開始優(yōu)化。
總之:對于自己編寫的SQL查詢語句,要盡量使用EXPLAIN命令分析一下,做一個對SQL性能有追求的程序員。衡量一個程序員是否靠譜,SQL能力是一個重要的指標。作為后端程序員,深以為然。
三、數(shù)據(jù)庫索引背后的數(shù)據(jù)結(jié)構(gòu)
第一部分開頭我們簡單提到,索引是存儲引擎快速找到記錄的一種數(shù)據(jù)結(jié)構(gòu)。進一步說,在數(shù)據(jù)庫系統(tǒng)里,這種數(shù)據(jù)結(jié)構(gòu)要滿足特定查找算法,即這些數(shù)據(jù)結(jié)構(gòu)以某種方式引用(指向)數(shù)據(jù),這樣就可以在這些數(shù)據(jù)結(jié)構(gòu)上實現(xiàn)高級查找算法。
1、B-Tree
B-Tree是一種平衡的多路查找(又稱排序)樹,在文件系統(tǒng)中和數(shù)據(jù)庫系統(tǒng)中有所應(yīng)用,主要用作文件的索引。其中的B就表示平衡(Balance) 。
B-Tree的特性
?
為了描述B-Tree,首先定義一條數(shù)據(jù)記錄為一個二元組[key, data],key為記錄的鍵值,對于不同數(shù)據(jù)記錄,key是互不相同的;data為數(shù)據(jù)記錄除key外的數(shù)據(jù)。那么B-Tree是滿足下列條件的數(shù)據(jù)結(jié)構(gòu):
?
d為大于1的一個正整數(shù),稱為B-Tree的度;
?
h為一個正整數(shù),稱為B-Tree的高度;
key和指針互相間隔,節(jié)點兩端是指針:
一個節(jié)點中的key從左到右非遞減排列:
所有節(jié)點組成樹結(jié)構(gòu)。
每個指針要么為null,要么指向另外一個節(jié)點;每個非葉子節(jié)點由n-1個key和n個指針組成,其中d<=n<=2d:
每個葉子節(jié)點最少包含一個key和兩個指針,最多包含2d-1個key和2d個指針,葉節(jié)點的指針均為null:
所有葉節(jié)點具有相同的深度,等于樹高h。
如果某個指針在節(jié)點node最左邊且不為null,則其指向節(jié)點的所有key小于key1,其中key1為node的第一個key的值:
如果某個指針在節(jié)點node最右邊且不為null,則其指向節(jié)點的所有key大于keym,其中keym為node的最后一個key的值:
如果某個指針在節(jié)點node的左右相鄰key分別是keyi和keyi+1且不為null,則其指向節(jié)點的所有key小于keyi+1且大于keyi:
B-Tree查找數(shù)據(jù)
B-Tree是一個非常有效率的索引數(shù)據(jù)結(jié)構(gòu)。這主要得益于B-Tree的度可以非常大,高度會變的非常小,只需要二分幾次就可以找到數(shù)據(jù)。例如一個度為d的B-Tree,設(shè)其索引N個key,則其樹高h的上限為logd((N+1)/2)),檢索一個key,其查找節(jié)點個數(shù)的漸進復(fù)雜度為O(logdN)。在B-Tree中按key檢索數(shù)據(jù)的算法非常直觀:
首先從根節(jié)點進行二分查找,如果找到則返回對應(yīng)節(jié)點的data;
否則對相應(yīng)區(qū)間的指針指向的節(jié)點遞歸進行查找,如果找到則返回對應(yīng)節(jié)點的data;
如果找不到,則重復(fù)上述“對相應(yīng)區(qū)間的指針指向的節(jié)點遞歸進行查找”,直到找到節(jié)點或找到null指針,前者查找成功,后者查找失敗。
?
?
?
2、B+Tree
?
B+Tree是B-Tree的一種變種。一般來說,B+Tree比B-Tree更適合實現(xiàn)外存儲索引結(jié)構(gòu),具體原因與外存儲器原理及計算機存取原理有關(guān),將在以后討論。
?
?
?
B+Tree的特性
?
區(qū)別于B-Tree:
?
-
每個節(jié)點的指針上限為2d而不是2d+1;
-
內(nèi)節(jié)點不存儲data,只存儲key;葉子節(jié)點不存儲指針。
?
3、帶有順序訪問指針的B+Tree
?
一般在數(shù)據(jù)庫系統(tǒng)或者文件系統(tǒng)中,并不是直接使用B+Tree作為索引數(shù)據(jù)結(jié)構(gòu)的,而是在B+Tree的基礎(chǔ)上做了優(yōu)化,增加了順序訪問指針,提升了區(qū)間查詢的性能。
?
如上圖所示,在B+Tree的每個葉子節(jié)點增加一個指向相鄰葉子節(jié)點的指針,就形成了帶有順序訪問指針的B+Tree。
例如要查詢18到30之間的數(shù)據(jù)記錄,只要先找到18,然后順著順序訪問指針就可以訪問到所有的數(shù)據(jù)節(jié)點。這樣就提升了區(qū)間查詢的性能。數(shù)據(jù)庫的索引全掃描index和索引范圍掃描range就是基于此實現(xiàn)的。
?
?
?
總結(jié)
以上是生活随笔為你收集整理的讲真,MySQL索引优化看这篇文章就够了的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 西安哪几家做装饰材料检测的检测单位好一些
- 下一篇: linux cmake编译源码,linu