山河建设有限公司网站,请你设计一个网络营销方案,佛山企业网站建设咨询,网站制作公司宁波哪家好文章目录 数据库索引优化与查询优化索引失效案例数据准备1. 全值匹配2 最佳左前缀法则(联合索引)主键插入顺序4 计算、函数导致索引失效5 类型转换(自动或手动)导致索引失效6 范围条件右边的列索引失效7 不等于(!或者)索引失效8 is null可以使用索引, is not null无法使… 文章目录 数据库索引优化与查询优化索引失效案例数据准备1. 全值匹配2 最佳左前缀法则(联合索引)主键插入顺序4 计算、函数导致索引失效5 类型转换(自动或手动)导致索引失效6 范围条件右边的列索引失效7 不等于(!或者)索引失效8 is null可以使用索引, is not null无法使用索引9 like以通配符%开头索引失效10 OR前后存在非索引的列索引失效11 数据库和表的字符集统一使用utf8mb412 一般性建议 关联查询优化数据准备左外连接右外连接和内连接的区别1 左外连接2 内连接3 JOIN语句原理 子查询优化排序优化1 排序优化2.测试3 小结4 filesort算法双路排序和单路排序 GROUP BY优化优化分页查询 数据库索引优化与查询优化
哪些维度可以进行数据库调优
索引失效、没有充分利用到索引-一索引建立关联查询太多JOIN (设计缺陷或不得已的需求) --SQL优化服务器调优及各个参数设置 (缓冲、线程数等)–调整my.cnf数据过多–分库分表
关于数据库调优的知识点非常分散。不同的 DBMS不同的公司不同的职位不同的项目遇到的问题都不尽相 同。这里我们分为三个章节进行细致讲解。
虽然 SQL 查询优化的技术有很多但是大方向上完全可以分成 物理查询优化 和 逻辑查询优化 两大块。
物理查询优化是通过 索引和 表连接方式 等技术来进行优化这里重点需要掌握索引的使用。逻辑查询优化就是通过 SOL 等价变换 提升查询效率直白一点就是说换一种查询写法执行效率可能更高
索引失效案例
MySQL中提高性能的一个最有效的方式是对数据表设计合理的索引。索引提供了高效访问数据的方法并且加快查询的速度因此索引对查询的速度有着至关重要的影响。
使用索引可以快速地定位表中的某条记录从而提高数据库查询的速度提高数据库的性能。如果查询时没有使用索引查询语句就会扫描表中的所有记录。在数据量大的情况下这样查询的速度会很慢。
大多数情况下都默认采用B树来构建索引。只是空间列类型的索引使用R-树并且MEMORY表还支持hash索引。
其实用不用索引最终都是优化器说了算。优化器是基于什么的优化器基于cost开销(CostBaseOptimizer)它不是基于规则(Rule-BasedOptimizer)也不是基于语义。怎么样开销小就怎么来。另外SQL语句是否使用索引跟数据库版本、数据量、数据选择度都有关系。 说明SQL_NO_CACHE 是MySQL中的一个查询提示Query Hint用于在查询时告诉MySQL不要缓存该查询的结果。通常MySQL会在查询结果中使用查询缓存来提高性能如果查询缓存中已经存在相同的查询结果MySQL将直接返回缓存中的结果而不需要再执行实际的查询操作。 数据准备
#1. 数据准备CREATE DATABASE atguigudb2;USE atguigudb2;#建表
CREATE TABLE class
(id INT(11) NOT NULL AUTO_INCREMENT,className VARCHAR(30) DEFAULT NULL,address VARCHAR(40) DEFAULT NULL,monitor INT NULL,PRIMARY KEY (id)
) ENGINE INNODBAUTO_INCREMENT 1DEFAULT CHARSET utf8;CREATE TABLE student
(id INT(11) NOT NULL AUTO_INCREMENT,stuno INT NOT NULL,name VARCHAR(20) DEFAULT NULL,age INT(3) DEFAULT NULL,classId INT(11) DEFAULT NULL,PRIMARY KEY (id)# CONSTRAINT fk_class_id FOREIGN KEY (classId) REFERENCES t_class (id)
) ENGINE INNODBAUTO_INCREMENT 1DEFAULT CHARSET utf8;SET GLOBAL log_bin_trust_function_creators 1;#随机产生字符串
DELIMITER //
CREATE FUNCTION rand_string(n INT) RETURNS VARCHAR(255)
BEGINDECLARE chars_str VARCHAR(100) DEFAULT abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ;DECLARE return_str VARCHAR(255) DEFAULT ;DECLARE i INT DEFAULT 0;WHILE i nDOSET return_str CONCAT(return_str, SUBSTRING(chars_str, FLOOR(1 RAND() * 52), 1));SET i i 1;END WHILE;RETURN return_str;
END //
DELIMITER ;# 用于随机产生多少到多少的编号
DELIMITER //
CREATE FUNCTION rand_num(from_num INT, to_num INT) RETURNS INT(11)
BEGINDECLARE i INT DEFAULT 0;SET i FLOOR(from_num RAND() * (to_num - from_num 1));RETURN i;
END //
DELIMITER ;# 创建往stu表中插入数据的存储过程
DELIMITER //
CREATE PROCEDURE insert_stu(START INT, max_num INT)
BEGINDECLARE i INT DEFAULT 0;SET autocommit 0; #设置手动提交事务REPEATREPEAT#循环SET i i 1; #赋值INSERT INTO student (stuno, NAME, age, classId) VALUES ((START i), rand_string(6), rand_num(1, 50), rand_num(1, 1000));UNTIL i max_num END REPEAT;COMMIT; #提交事务
END //
DELIMITER ;# 执行存储过程往class表添加随机数据
DELIMITER //
CREATE PROCEDURE insert_class(max_num INT)
BEGINDECLARE i INT DEFAULT 0; SET autocommit 0;REPEATSET i i 1; INSERT INTO class (classname, address, monitor) VALUES (rand_string(8), rand_string(10), rand_num(1, 100000));UNTIL i max_num END REPEAT;COMMIT;
END //
DELIMITER ;# 执行存储过程往class表添加1万条数据
CALL insert_class(10000);# 执行存储过程往stu表添加50万条数据
CALL insert_stu(100000, 500000);SELECT COUNT(*)
FROM class;SELECT COUNT(*)
FROM student;# 删除某表上的索引 存储过程
DELIMITER //
CREATE PROCEDURE proc_drop_index(dbname VARCHAR(200), tablename VARCHAR(200))
BEGINDECLARE done INT DEFAULT 0;DECLARE ct INT DEFAULT 0;DECLARE _index VARCHAR(200) DEFAULT ;DECLARE _cur CURSOR FOR SELECT index_nameFROM information_schema.STATISTICSWHERE table_schema dbname AND table_name tablename AND seq_in_index 1 AND index_name PRIMARY;#每个游标必须使用不同的declare continue handler for not found set done1来控制游标的结束DECLARE CONTINUE HANDLER FOR NOT FOUND SET done2 ;
#若没有数据返回,程序继续,并将变量done设为2OPEN _cur;FETCH _cur INTO _index;WHILE _index DO SET str CONCAT(drop index , _index , on , tablename ); PREPARE sql_str FROM str ;EXECUTE sql_str;DEALLOCATE PREPARE sql_str;SET _index; FETCH _cur INTO _index; END WHILE;CLOSE _cur;
END //
DELIMITER ;# 执行存储过程
CALL proc_drop_index(atguigu2, student);
1. 全值匹配
# 创建索引前后
# 145 ms (execution: 126 ms, fetching: 19 ms)
# 76 ms (execution: 34 ms, fetching: 42 ms)
SELECT SQL_NO_CACHE *
FROM student
WHERE age 30AND classId 4 AND name abcd;CREATE INDEX idx_age ON student (age);
再创建一个索引发现使用的联合索引:
CREATE INDEX idx_age_classId ON student(age, classId);
EXPLAIN SELECT SQL_NO_CACHE *
FROM student
WHERE age 30AND classId 4AND name abcd; 继续创建这三个字段的联合索引发现使用的3个的联合索引
CREATE INDEX idx_age_classId_name ON student(age, classId, name);
2 最佳左前缀法则(联合索引)
MySQL建立联合索引时会遵守最佳左前缀匹配原则即最左优先在检索数据时从联合索引的最左边开始匹配
# 使用idx_age_classId索引 顺序一致
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.age30 AND student.nameabcd;
# 没用上索引 因为没有classid开头顺序的索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.classid1 AND student.nameabcd;
删掉前两个索引保留student(age, classId, name); 发现虽然用上了索引但是key_len5说明只用上了联合索引的一部分age这个字段(int4字节1null)。
先取查询条件的classid到索引第一个列匹配无结果再取age匹配找到可用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.classid1 AND age30 AND student.nameabcd; 这样则完全没有使用上索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.classid1 AND student.nameabcd;先取查询条件的classid到索引第一个列匹配无结果再取name匹配仍然无结果因为索引只存在age开头的这个。
结论MySQL可以为多个字段创建索引一个索引可以包括16个字段。对于多列索引过滤条件要使用索引必须按照索引建立时的顺序依次满足一旦跳过某个字段索引后面的字段都无法被使用。如果查询条件中没有使用这些字段中第1个字段时多列或联合索引不会被使用 Alibaba《Java开发手册》索引文件具有B-Tree的最左前缀匹配特性如果左边的值未确定那么无法使用此索引 主键插入顺序
对于一个使用InnoDB存储引擎的表来说在我们没有显式的创建索引时表中的数据实际上都是存储在聚簇索引的叶子节点的。而记录又是存储在数据页中的数据页和记录又是按照记录主键值从小到大的顺序进行排序所以如果我们插入的记录的主键值是依次增大的话那我们每插满一个数据页就换到下一个数据页继续插而如果我们插入的主键信息忽大忽小的话就比较麻烦假设某个数据页存储的记录已经满了它存储的主键值在1~100之间 如果此时再插入一条主键值为 9 的记录那它插入的位置就如下图 可这个数据页已经满了再插进来咋办呢我们需要把当前页面分裂成两个页面把本页中的一些记录移动到新创建的这个页中。页面分裂和记录移位意味着什么意味着性能损耗所以如果我们想尽量避免这样无谓的性能损耗最好让插入的记录的主键值依次递增这样就不会发生这样的性能损耗了。所以我们建议让主键具有AUTO_INCREMENT让存储引擎自己为表生成主键而不是我们手动插入 比如 person_info 表
CREATE TABLE person_info
(id INT UNSIGNED NOT NULL AUTO_INCREMENT,name VARCHAR(100) NOT NULL,birthday DATE NOT NULL,phone_number CHAR(11) NOT NULL,country varchar(100) NOT NULL,PRIMARY KEY (id),KEY idx_name_birthday_phone_number (name(10), birthday, phone_number)
);
自定义的主键列id拥有AUTO_INCREMENT属性在插入记录时存储引擎会自动为我们填入自增的主键值。这样的主键占用空间小顺序写入减少页分裂。
4 计算、函数导致索引失效
CREATE INDEX idx_name ON student(NAME);
# 可以使用上索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.name LIKE abc%;
# 无法使用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE LEFT(student.name,3) abc;
第一种索引优化生效因为可以使用二级索引进行匹配第二种索引优化失效因为使用到了函数但是对于mysql来说函数作用的是什么并不知道所以不能使用索引。
CREATE INDEX idx_sno ON student(stuno);
# 无法使用索引
EXPLAIN SELECT SQL_NO_CACHE id, stuno, NAME FROM student WHERE stuno1 900001;
# 可以使用索引
EXPLAIN SELECT SQL_NO_CACHE id, stuno, NAME FROM student WHERE stuno 900000;
5 类型转换(自动或手动)导致索引失效
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE name123;
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE name123;
name123发生类型转化索引失效
结论设计实体类属性时一定要与数据库字段类型相对应。否则就会出现类型转换的情况
6 范围条件右边的列索引失效
CREATE INDEX idx_age_cid_name ON student(age, classId, name);EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.age30 AND student.classId20 AND student.name abc;
key_len10,age和classid加起来没有name 范围右边的列不能使用。比如() () () () 和 between等
如果这种sql出现较多应该注意联合索引建立顺序将范围查询条件放置语句最后
CREATE INDEX idx_age_name_classid ON student(age, name, classid);
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.age30 AND student.name abc AND student.classId20;
应用开发中范围查询例如金额查询日期查询往往都是范围查询。应将查询条件放置where语句最后。
7 不等于(!或者)索引失效
CREATE INDEX idx_name ON student(NAME);
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.name abc;
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE student.name ! abc;
8 is null可以使用索引, is not null无法使用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE age IS NULL;
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE age IS NOT NULL;
最好在设计数据表的时候就将字段设置为NOT NULL约束比如你可以将INT类型的字段默认值为0将字符类型的默认值设置为空字符串(‘’)
同理在查询中使用NOT LIKE也无法使用索引导致全表扫描
9 like以通配符%开头索引失效
在使用LIKE关键字进行查询的查询语句中如果匹配字符串的第一个字符为”%“索引就不会起作用。只有”%“不在第一个位置索引才会起作用
# 使用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE name LIKE ab%;
# 未使用到索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE name LIKE %ab%; Alibaba《Java开发手册》【强制】页面搜索严禁左模糊或者全模糊如果需要请走搜索引擎来解决 10 OR前后存在非索引的列索引失效
在WHERE子句中如果在OR前的条件列进行了索引而OR后的条件列没有进行索引那么索引会失效。也就是说OR前后的两个条件中的列都是索引时查询中才使用索引
因为OR的含义就是两个只要满足一个即可因此只有一个条件列进行了索引是没有意义的只要有条件列没有进行索引就会进行全表扫描因此索引的条件列也会失效
CREATE INDEX idx_age ON student(age);
# 因为classid字段没有索引所以没有使用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE age10 OR classid100;# 因为age字段和name字段上都有索引所以查询中使用了索引。
# 这里使用到了index_merge简单说index_merge就是对age和name分别进行了扫描然后将这两个结果集进行了合并。这样的好处就是避免了全表扫描
CREATE INDEX idx_name ON student(name);
EXPLAIN SELECT SQL_NO_CACHE * FROM student WHERE age10 OR name able;
11 数据库和表的字符集统一使用utf8mb4
统一使用utf8mb4(5.5.3版本以上支持)兼容性更好统一字符集可以避免由于字符集转换产生的乱码。不同的字符集进行比较前需要进行转换会造成索引失效.
12 一般性建议
对于单列索引尽量选择针对当前query过滤性更好的索引
在选择组合索引的时候当前query中过滤性最好的字段在索引字段顺序中位置越靠前越好
在选择组合索引的时候尽量选择能够包含当前query中的where子句中更多字段的索引
在选择组合索引的时候如果某个字段可能出现范围查询时尽量把这个字段放在索引次序的最后面
总之书写SQL语句时尽量避免造成索引失效的情况
关联查询优化
数据准备
CREATE TABLE IF NOT EXISTS type
(id INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,card INT(10) UNSIGNED NOT NULL,PRIMARY KEY (id)
);
CREATE TABLE IF NOT EXISTS book
(bookid INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,card INT(10) UNSIGNED NOT NULL,PRIMARY KEY (bookid)
);# 20条
INSERT INTO type(card)
VALUES (FLOOR(1 (RAND() * 20)));
# 20条
INSERT INTO book(card)
VALUES (FLOOR(1 (RAND() * 20)));
左外连接右外连接和内连接的区别
首先这三种连接都是join连接只要是join连接假如我们两张表都没有索引假如A表有100条数据B表有1000条数据假如A表是驱动表B表是被驱动表那么我们连接的时候其实先从A表取出一条数据遍历全部的B表将匹配到的数据放到result里面依次类推最后会执行A*B10万次。所以如果没有索引效率是非常低的。所以一般情况下都会给被驱动表B建立索引这样从A取出一条数据然后B表直接根据索引匹配就不会再是全表扫描B表了
那么左外连接和内连接有什么区别呢 左外连接是左表为主表左表的每一行数据都会展示在此约束下存在两种情况第一种是右表没有关联到相关数据那么这个时候左表的对应行右边的关联部分全部写NULL第二种情况是右表成功关联到相关数据那么这个时候左表的对应行右边会展示出右表的关联数据 而内连接是左表不会展示出它的全部行数据如果左表成功关联到了右表那么会有一行对应的结果存放左表和右表关联之后的数据而如果左表没有关联到右表那么结果中就不会出现此行数据了不会像左外连接那样保存左表的行数据而没有关联到的右表数据填写NULL。
1 左外连接
没有索引type全是all
EXPLAIN SELECT SQL_NO_CACHE * FROM type LEFT JOIN book ON type.card book.card;CREATE INDEX Y ON book (card);可以看到第二行的 type 变为了 refrows 也变成了优化比较明显。这是由左连接特性决定的。LEFT JOIN条件用于确定如何从右表搜索行左边一定都有所以右边是我们的关键点,一定需要建立索引;
2 内连接
对于内连接来讲如果表的连接条件中只能有一个字段有索引则有索引的字段对应的表会被作为被驱动表。
对于内连接来说在两个表的连接条件都存在索引的情况下会选择小表可以简单理解成数据行少的表作为驱动表——小表驱动大表。
这样先从驱动表拿一条数据再去被驱动表匹配的时候因为驱动表数据少因此我们执行的次数就比较少而被驱动表即便数据多也没事因为被驱动表里面有索引查询会很快。
CREATE INDEX Y ON book (card);
DROP INDEX Y ON book;EXPLAIN SELECT SQL_NO_CACHE * FROM type INNER JOIN book ON type.card book.card;CREATE INDEX X ON type (card);
DROP INDEX X ON type;
3 JOIN语句原理
JOIN方式连接多个表本质就是各个表之间数据的循环匹配。MySQL5.5版本之前MySQL只支持一种表间关联方式就是嵌套循环(Nested Loop Join)。如果关联表的数据量很大则join关联的执行时间会非常长。MySQL5.5以后的版本中MySQL通过引入BNLJ算法来优化嵌套执行。
(1) 驱动表和被驱动表 驱动表就是主表被驱动表就是从表、非驱动表 对于内连接来说 SELECT * FROM A JOIN B ON … A一定是驱动表吗不一定优化器会根据你查询语句做优化决定先查哪张表。先查询的那张表就是驱动表反之就是被驱动表。通过EXPLAIN关键字可以查看 对于外连接来说 SELECT FROM A LEFT JOIN B ON … #或 SELECT FROM B RIGHT JOIN A ON … 通常认为A就是驱动表B就是被驱动表。但也未必。测试如下
CREATE TABLE a(f1 INT, f2 INT, INDEX(f1))ENGINEINNODB;
CREATE TABLE b(f1 INT, f2 INT)ENGINEINNODB;INSERT INTO a VALUES(1,1),(2,2),(3,3),(4,4),(5,5),(6,6);INSERT INTO b VALUES(3,3),(4,4),(5,5),(6,6),(7,7),(8,8);# 测试1 使用了索引f1
EXPLAIN SELECT * FROM a LEFT JOIN b ON(a.f1b.f1) WHERE (a.f2b.f2);
# 测试2 没有使用索引
EXPLAIN SELECT * FROM a LEFT JOIN b ON(a.f1b.f1) AND (a.f2b.f2);
(2) Simple Nested-Loop Join简单嵌套循环连接 算法相当简单从表A中取出一条数据1遍历表B将匹配到的数据放到result…以此类推驱动表A中的每一条记录与被驱动表B的记录进行判断 可以看到这种方式效率是非常低的以上述表A数据100条表B数据1000条计算则A*B10万次。开销统计如下 当然mysql肯定不会这么粗暴的去进行表的连接所以就出现了后面的两种对Nested-Look Join优化算法
(3) Index Nested-Loop Join索引嵌套循环连接 Index Nested-Loop Join其优化的思路主要是为了减少内层表数据的匹配次数所以要求被驱动表上必须有索引才行。通过外层表匹配条件直接与内层表索引进行匹配避免和内层表的每条记录去进行比较这样极大的减少了对内层表的匹配次数 驱动表中的每条记录通过被驱动表的索引进行访问因为索引查询的成本是比较固定的故mysql优化器都倾向于使用记录数少的表作为驱动表外表 如果被驱动表加索引效率是非常高的但如果索引不是主键索引所以还得进行一次回表查询。相比被驱动表的索引是主键索引效率会更高
(4) Block Nested-Loop Join块嵌套循环连接 如果存在索引那么会使用index的方式进行join如果join的列没有索引被驱动表要扫描的次数太多了。每次访问被驱动表其表中的记录都会被加载到内存中然后再从驱动表中取一条与其匹配匹配结束后清除内存然后再从驱动表中加载一条记录然后把被驱动表的记录再加载到内存匹配这样周而复始大大增加了IO的次数。为了减少被驱动表的IO次数就出现了Block Nested-Loop Join的方式
不再是逐条获取驱动表的数据而是一块一块的获取引入了join buffer缓冲区将驱动表join相关的部分数据列大小受join buffer的限制缓存到join buffer中然后全表扫描被驱动表被驱动表的每一条记录一次性和join buffer中所有驱动表记录进行匹配内存中操作将简单嵌套循环中的多次比较合并成一次降低了被驱动表的访问频率
注意这里缓存的不只是关联表的列SELECT后面的列也会缓存起来
在一个有N个join关联的sql中会分配N-1个join buffer。所以查询的时候尽量减少不必要的字段可以让join buffer中可以存放更多的列 参数设置 block_nested_loop通过show variables like ‘%optimizer_switch%’查看block_nested_loop状态。默认是开启的
join_buffer_size驱动表能不能一次加载完要看join buffer能不能存储所有数据默认情况下join_buffer_size256k
join_buffer_size的最大值在32位系统可以申请4G而在64位操作系统下可以申请大于4G的Join Buffer空间64位Windows除外其大值会被截断为4G并发出警告
(5) Join小结 整体效率比较INLJBNLJSNLJ
永远用小结果集驱动大结果集(其本质就是减少外层循环的数据数量)小的度量单位指的是 表行数*每行大小可以粗略的理解成是表行数这样先从驱动表拿一条数据再去被驱动表匹配的时候因为驱动表数据少因此我们执行的次数就比较少而被驱动表即便数据多也没事因为被驱动表里面有索引查询会很快。
SELECT t1.b, t2.* FROM t1 straight_join t2 ON (t1.bt2.b) WHERE t2.id100; #推荐SELECT t1.b, t2.* FROM t2 straight_join t1 ON (t1.bt2.b) WHERE t2.id100; #不推荐
为被驱动表匹配的条件增加索引(减少内存表的循环匹配次数)
增大join buffer size的大小一次缓存的数据越多那么内层包的扫表次数就越少
减少驱动表不必要的字段查询字段越少join buffer所缓存的数据就越多
(6) Hash Join 从MySQL的8.0.20版本开始将废弃BNLJ因为从MySQL8.0.18版本开始就加入了hash join默认都会使用hash join
Nested Loop对于被连接的数据子集较小的情况Nested Loop是个较好的选择
Hash Join是做大数据集连接时的常用方式优化器使用两个表中较小相对较小的表利用Join Key在内存中建立散列表然后扫描较大的表并探测散列表找出与Hash表匹配的行
这种方式适用于较小的表完全可以放于内存中的情况这样总成本就是访问两个表的成本之和
在表很大的情况下并不能完全放入内存这时优化器会将它分割成若干不同的分区不能放入内存的部分就把该分区写入磁盘的临时段此时要求有较大的临时段从而尽量提高I/O的性能
它能够很好的工作于没有索引的大表和并行查询的环境中并提供最好的性能。大多数人都说它是Join的重型升降机。Hash Join只能应用于等值连接(如WHERE A.COL1B.COL2)这是由Hash的特点决定的
子查询优化
MySQL从4.1版本开始支持子查询使用子查询可以进行SELECT语句的嵌套查询即一个SELECT查询的结果作为另一个SELECT语句的条件。子查询可以一次性完成很多逻辑上需要多个步骤才能完成的SQL操作。
子查询是 MySQL 的一项重要的功能可以帮助我们通过一个 SQL 语句实现比较复杂的查询。但是子查询的执行效率不高。原因
执行子查询时MySQL需要为内层查询语句的查询结果建立一个临时表然后外层查询语句从临时表中查询记录。查询完毕后再撤销这些临时表。这样会消耗过多的CPU和IO资源产生大量的慢查询。
子查询的结果集存储的临时表不论是内存临时表还是磁盘临时表都不会存在索引所以查询性能会受到一定的影响。
对于返回结果集比较大的子查询其对查询性能的影响也就越大。在MySQL中可以使用连接JOIN查询来替代子查询。连接查询 不需要建立临时表 其速度比子查询要快 如果查询中使用索引的话性能就会更好。
在MySQL中可以使用连接JOIN查询来替代子查询。连接查询不需要建立临时表其速度比子查询要快如果查询中使用索引的话性能就会更好。 举例查询学生表中是班长的学生信息
使用子查询创建班级表中班长的索引
CREATE INDEX idx_moniitor ON class (monitor);EXPLAIN
SELECT *
FROM student stu1
WHERE stu1.stuno IN (SELECT monitor FROM class c WHERE monitor IS NOT NULL);
推荐使用多表查询
EXPLAIN SELECT stu1.* FROM student stu1 JOIN class c ON stu1.stuno c.monitor WHERE c.monitor IS NOT NULL;
举例取所有不为班长的同学
# 不推荐
EXPLAIN
SELECT SQL_NO_CACHE a.*
FROM student a
WHERE a.stuno NOT IN (SELECT monitor FROM class b WHERE monitor IS NOT NULL);
# 推荐
EXPLAIN
SELECT SQL_NO_CACHE a.*
FROM student aLEFT OUTER JOIN class b ON a.stuno b.monitor
WHERE b.monitor IS NULL;
结论尽量不要使用NOT IN 或者 NOT EXISTS用LEFT JOIN xxx ON xx WHERE xx IS NULL替代
排序优化
1 排序优化
问题在 WHERE 条件字段上加索引但是为什么在 ORDER BY 字段上还要加索引呢
回答在MySQL中支持两种排序方式分别是FileSort和Index排序
Index排序中索引可以保证数据的有序性不需要再进行排序效率更高FileSort排序则一般再内存中进行排序占用CPU较多。如果待排结果较大会产生临时文件I/O到磁盘进行排序的情况效率较低
优化建议
SQL 中可以在 WHERE 子句和 ORDER BY 子句中使用索引目的是在 WHERE 子句中 避免全表扫描 在 ORDER BY 子句 避免使用 FileSort 排序 。当然某些情况下全表扫描或者 FileSort 排序不一定比索引慢。但总的来说我们还是要避免以提高查询效率尽量使用 Index 完成 ORDER BY 排序。如果 WHERE 和 ORDER BY 后面是相同的列就使用单索引列如果不同就使用联合索引。无法使用 Index 时需要对 FileSort 方式进行调优
2.测试
删除student、class索引
以下是否能使用到索引能否去掉using filesort
过程一没有使用索引
EXPLAIN SELECT SQL_NO_CACHE * FROM student ORDER BY age, classid;EXPLAIN SELECT SQL_NO_CACHE * FROM student ORDER BY age, classid LIMIT 10;
过程二创建索引
CREATE INDEX idx_age_classid_name ON student(age,classid,NAME);SELECT SQL_NO_CACHE * FROM student ORDER BY age, classid;为何没有使用索引实际上SQL在执行时优化器会考虑成本问题虽然有索引但是此索引是一个二级索引那么如果通过索引排完序后需要回表查询其他的所有列信息。干脆直接在内存中做排序发现花费的时间还要少所以就没有使用索引。注意并不是任何情况下有索引就一定会使用优化器是考虑时间成本进行选择最优的执行计划。如果sql换成SELECT SQL_NO_CACHE age, classid FROM student ORDER BY age, classid;就会使用上索引。这里不需要回表覆盖索引
过程三order by时顺序错误索引失效 创建索引age,classid,stuno 以下哪些索引失效
CREATE INDEX idx_age_classid_stuno ON student(age,classid,stuno);
# 失效
EXPLAIN SELECT * FROM student ORDER BY classid LIMIT 10;
# 失效
EXPLAIN SELECT * FROM student ORDER BY classid,NAME LIMIT 10;
# 有效
EXPLAIN SELECT * FROM student ORDER BY age,classid,stuno LIMIT 10;
# 有效
EXPLAIN SELECT * FROM student ORDER BY age,classid LIMIT 10;
# 有效
EXPLAIN SELECT * FROM student ORDER BY age LIMIT 10;过程四order by时规则不一致索引失效 顺序错不索引方向反不索引
CREATE INDEX idx_age_classid_stuno ON student(age,classid,stuno);
# 失效 方向反
EXPLAIN SELECT * FROM student ORDER BY age DESC, classid ASC LIMIT 10;
# 失效 最左前缀法则
EXPLAIN SELECT * FROM student ORDER BY classid DESC, NAME DESC LIMIT 10;
# 失效 方向反
# 没有使用索引是因为最后还要按照classid逆序所以不如直接文件排序。
EXPLAIN SELECT * FROM student ORDER BY age ASC, classid DESC LIMIT 10;
# 有效
EXPLAIN SELECT * FROM student ORDER BY age DESC, classid DESC LIMIT 10;
结论ORDER BY子句尽量使用index方式排序避免使用FileSort方式排序。orderby是规则不一致是指有的升序有的是降序必须要是升序都是升序要是降序都是降序要不然会索引失效。
3 小结
INDEX a_b_c(a,b,c)
order by 能使用索引最左前缀
ORDER BY aORDER BY a,bORDER BY a,b,cORDER BY a DESC, b DESC, c DESC
如果WHERE使用索引的最左前缀定义为常量则order by能使用索引
WHERE aconst ORDER BY b,cWHERE aconst AND bconst ORDER BY cWHERE aconst ORDER BY b,cWHERE aconst AND bconst ORDER BY b,c
不能使用索引进行排序
ORDER BY a ASC, b DESC, c DESC /排序不一致/WHERE gconst ORDER BY b,c /丢失a索引/WHERE aconst ORDER BY c /丢失b索引/WHERE aconst ORDER BY a,d /d不是索引的一部分/WHERE a in (…) ORDER BY b,c /对于排序来说多个相等条件也是范围查询/
4 filesort算法双路排序和单路排序
在MySQL中当需要进行ORDER BY或GROUP BY操作时可能会使用到filesort算法。filesort算法用于对查询结果集进行排序以满足ORDER BY或GROUP BY子句的要求。根据不同的场景和配置MySQL中的filesort算法分为双路排序Two-Phase Sort和单路排序One-Phase Sort两种。
双路排序Two-Phase Sort 双路排序是默认情况下的排序算法它执行两个排序阶段。首先MySQL会尝试使用索引完成排序如果存在适合的索引来满足ORDER BY或GROUP BY条件那么排序就是在索引的帮助下完成的。如果索引无法满足排序需求MySQL会使用双路排序。
在双路排序中MySQL首先尝试使用内存sort_buffer进行排序。如果排序所需的内存超出了sort_buffer的设置MySQL将使用磁盘临时文件进行排序。这样双路排序使用了两种资源内存和磁盘。通常情况下双路排序是比较高效的排序算法因为它充分利用了内存和磁盘的优势。
单路排序One-Phase Sort
单路排序是一种特殊的排序算法它只使用内存来完成排序而不涉及磁盘临时文件。单路排序通常在查询需要排序的数据较小时MySQL可以保证所有排序数据都在sort_buffer内存中进行排序从而避免了使用磁盘临时文件。
当查询需要排序的数据量较小时MySQL会优先选择单路排序因为单路排序避免了磁盘I/O相对较快。但是如果排序数据量较大超出了sort_buffer的设置MySQL会回退到双路排序。
在实际使用中可以通过调整sort_buffer的大小来影响MySQL在排序时选择单路排序还是双路排序。如果想强制使用单路排序可以将sort_buffer设置为一个较大的值但这也会增加内存的消耗。综合考虑查询的性能需求和系统的资源情况选择合适的排序算法和合理设置sort_buffer是优化查询性能的重要一环。
GROUP BY优化
group by 使用索引的原则几乎跟order by一致 group by 即使没有过滤条件用到索引也可以直接使用索引。group by 先排序再分组遵照索引建的最佳左前缀法则当无法使用索引列增大max_length_for_sort_data和sort_buffer_size参数的设置where效率高于having能写在where限定的条件就不要写在having中了减少使用order by和业务沟通能不排序就不排序或将排序放到程序端去做。Order by、groupby、distinct这些语句较为耗费CPU数据库的CPU资源是极其宝贵的。包含了order by、group by、distinct这些查询的语句where条件过滤出来的结果集请保持在1000行以内否则SQL会很慢
优化分页查询
一般分页查询时通过创建覆盖索引能够比较好地提高性能。一个常见由非常头疼地问题就是limit 2000000,10此时需要MySQL排序前2000010记录仅仅返回2000000-2000010的记录其他记录丢弃查询排序的代价非常大
EXPLAIN SELECT * FROM student LIMIT 2000000,10
优化思路一在索引上完成排序分页操作最后根据主键关联回原表查询所需要的其他列内容
EXPLAIN SELECT * FROM student t,(SELECT id FROM student ORDER BY id LIMIT 2000000,10) a WHERE t.ida.id;
# 查根据name排序的分页在name上创建索引查找id再根据id找具体数据避免了使用聚簇索引数据量大的问题# 优化前 498 ms (execution: 465 ms, fetching: 33 ms)
SELECT *
FROM student s
ORDER BY name
limit 490000,10;# 优化后95 ms (execution: 72 ms, fetching: 23 ms)
CREATE INDEX stu_name ON student(name);WITH order_name (id) AS (select id from student ORDER BY name limit 490000,10)
SELECT *
FROM student sINNER JOIN order_name o ON s.id o.id;
优化思路二该方案适用于主键自增的表可以把limit查询转换成某个位置的查询
EXPLAIN SELECT * FROM student WHERE id2000000 LIMIT 10;
