目录
连接层:(连接池)主要接收客户端的连接,然后完成一些连接的处理以及认证授权的相关操作以及相关的一些安全方案,服务器也会为安全接入的每个客户端验证他所具有的权限
服务层:绝大部分的核心功能都是在服务层完成的,像sql接口,并完成缓存的查询,sql的分析和优化,部分内置函数的执行,所有跨存储引擎的实现也都是在服务层实现的,比如DML语句,DDL语句的封装,存储过程,视图,触发器,
引擎层:存储引擎真正的负责了mysql中数据的存储和提取,服务器通过API和存储引擎进行通信,不同的存储引擎具有不同的功能,这样我们可以根据自己的需要来选取合适的存储引擎,innoDB引擎是mysql5.5版本之后默认的存储引擎(索引的实现就在此层)
存储层:主要是将数据存储到文件系统之上,并完成与存储引擎的交互
含义:存储引擎就是存储数据,建立索引,更新/查询数据等技术的实现方式。存储引擎是基于表的,而不是基于库的,所以存储引擎也可被称为表类型
语法:show engines;
- #创建表my_myisam,并指定具体存储引擎
- create table my_myisam(
- id int,
- name varchar(10)
- )engine=myisam;
注意:创建表的时候是可以指定存储引擎的,如果不指定存储引擎,那么默认就选择innoDB引擎
InnoDB是一种兼顾高可靠性和高性能的通用存储引擎,在MySQL5.5之后,InnoDB是默认的MySQL存储引擎
表名.ibd文件,InnoDB引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm、sdi)、数据和索引。当然,还有一个参数:innodb_file_per_table,此参数表示到底是多张表共用一个共享表空间还是说每一张表都对应一个表空间文件,mysql8.0中此开关默认打开的就代表每一张表都对应一个表空间
语法:show variables like '变量名';
理解:一个表空间中会存储若干个段一个段中又会包含若干个区,,针对一个区来说又会包含若干个页(页包含索引页、数据页)一个页中又会包含若干个行(表结构中存储的一行一行的数据)行内又会包含操作事务的id、指针、一个一个的字段。而在InnoDB逻辑结构当中Page页是磁盘操作的最小单元,一个区的大小是固定的,为1m,一个页大小是16k,所以一个区中可以包含64个页
注意:myisam为mysql早期的默认存储引擎
Memory引擎的表数据是存储在内存中的,由于受到硬件问题,或是断电问题的影响,只能将这些表作为临时表或缓存使用
选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况,选择多种存储引擎进行组合
含义:索引(index)是帮助mysql高效获取数据的数据结构(有序)。在数据之外,数据库还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向数据),这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。
案例:select * from user where age=45;
理解:没有索引的情况下会对全表从上到下逐个扫瞄,进而找到符合条件的数据,这样效率极低,而有索引的化,就会帮你排好序进而实现快速查找,效率高
mysql的索引是在存储引擎层实现的,不同存储引擎有不同的结构,主要包含以下几种
注意:我们平常所说的索引,如果没有特别指明,都是指B+树结构组织的索引
一个节点下面最多包含2个子节点,那么在上图中可见36是根节点,左侧的子树当中所有的节点比36要小,右侧的所有的节点比36要大,最终形成了如图
查找方式:从根节点开始,根据比较结果选择左右分支进而精确定位数据
二叉树缺点:顺序插入时,会形成一个链表,查询性能大大降低。大数据量的情况下,层级较深,检索速度慢。
红黑树缺点:大数据量的情况下,层级较深,检索速度慢。
多路:一个节点下面可以包含多个子节点
树的度:一个节点的子节点个数
以一颗最大度数为5的b-tree为例(每个节点最多储存4个key,5个指针)
以一颗最大度数为4的B+Tree为例
mysql索引数据结构对经典的B+Tree进行了优化,在原B+Tree的基础上,增加一个指向相邻叶子结点的链表指针,就形成了带有顺序指针的B+Tree,提高区间的访问性能
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中
操作时首先为每一行算出hash值,然后再拿出name字段的所有值,然后根据name字段的所有值通过它内部的hash函数去计算每一个name值它应该落在哪个hash的槽位上
注意:如果两个或多个键值映射到一个相同的槽位上,他们就产生了hash冲突(也称hash碰撞),可以通过链表来解决
对于B-Tree,无论是叶子节点还是非叶子节点,都会保存数据,这样就导致一页中存储的键值减少,指针也跟着减少,要同样保存大量数据,只有增加树的高度,导致性能降低(原因:树的度减少)
在InnoDB存储引擎中,根据索引的储存形式,又可以分为以下两种
例子:select * from user where name="Arm";
理解:因为是根据name(name已经添加了二级索引)字段查找,所以是二级索引。然后根据字母ASCII大小进行比较进而找到特定的位置,进而找到了主键,然后根据主键通过聚集索引进而找到了整行的数据。由二级所引到聚集索引的过程也称回表查询。
回表查询:先走二级索引找到对应的主键值在根据主键值到聚集索引当中拿到这一行的行数据(见上面我的理解)
创建索引:create [unique|fulltext] index 索引名 on 表名(索引列1,索引列2);
注意:如果不写索引类型,默认创建常规索引
查看索引:show index from 表名;
删除索引:drop index 索引名 on 表名;
- #查看tb_user的索引
- show index from tb_user;
-
- #为name字段创建常规索引
- create index idx_user_name on tb_user(name);
-
- #为age字段创建唯一索引
- create unique index idx_user_age on tb_user(age);
-
- #删除age字段的索引
- drop index idx_user_age on tb_user;
-
- #创建联合索引为age和phone(也可以创建联合唯一索引)
- create index idx_user_all on tb_user(age,phone);
查看提供服务器状态信息:show [session|global] status like 'Com_______';
注意:Com后面7个下划线可以看到增删改查的执行次数
慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有sql语句的日志
查询慢查询日志的开启情况:show variables like 'slow_query_log';
注意:mysql的慢查询日志默认没有开启,需要在mysql的配置文件(etc/my.cnf)中添加配置如下
配置完毕之后,通过以下指令重新启动mysql服务器进行测试,查看慢日志中记录的信息/var/lib/mysql/localhost-slow.log
show profiles能够在做sql优化时帮助我们了解时间都耗费到哪了,通过have_profiling参数,能够看到当前mysql是否支持profile操作
查看数据库是否支持profile操作:select @@have_profiling;
注意:默认profiling是关闭的,可以通过set语句在session/global级别开启profiling
查看profiling开关是否开启:select @@profiling;
开启profiling开关:set profiling=1;
查看每一条sql语句的耗时情况:show profiles;
查看指定query_id的sql语句各个阶段的耗时情况:show profile for query query_id;
查看指定query_id的sql语句cpu的使用情况:show profile cpu for query query_id;
explain或者desc命令获取mysql如何执行select语句的信息,包括select语句执行过程中表现如何连接和连接的顺序
语法:explain select 字段列表 from 表名 where 条件;
#直接在select语句之前加上关键字explain/desc
含义:如果索引了多个列(联合索引),要遵循最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列,如果跳跃了某一列,索引将部分失效(跳过的字段后面的字段索引失效)
原因:mysql创建复合索引的规则是首先会对复合索引的最左边,也就是第一个字段进行排序,然后在第一个字段的基础上对第二个字段进行排序
- #展示tb_user表的索引
- show index from tb_user;
-
- #创建联合索引分别作用于name,age,phone字段
- create index idx_user_all on tb_user(name,age,phone);
-
- #索引长度72,索引生效,并且和条件顺序没关系
- explain select * from tb_user where name="码云" and age=55 and phone="18800008888";
- explain select * from tb_user where phone="18800008888" and name="码云" and age=55;
-
- #索引长度38,索引生效
- explain select * from tb_user where name="码云" and age=55;
-
- #索引长度33,索引生效
- explain select * from tb_user where name="码云";
-
- #索引为null,没用索引
- explain select * from tb_user where age=55 and phone="18800008888";
-
- #索引长度为33,name索引生效,phone索引没生效
- explain select * from tb_user where name="码云" and phone="18800008888";
含义:联合索引中,出现范围查询(>,<),范围右侧的列索引失效(使用范围查询的索引生效)
- #创建联合索引分别作用于name,age,phone字段
- create index idx_user_all on tb_user(name,age,phone);
-
- #索引长度38,name、age索引生效,phone索引失效,由此观之这里的顺序是指创建索引的顺序
- explain select * from tb_user where name="码云" and phone="18800008888" and age>45;
- explain select * from tb_user where name="码云" and age>45 and phone="18800008888";
-
- #索引长度72,索引全部生效
- explain select * from tb_user where name="码云" and age>=45 and phone="18800008888";
不要在索引列上进行运算,否则索引将会失效
- #创建phone的索引
- create index idx_user_phone on tb_user(phone);
-
- #索引生效
- desc select * from tb_user where phone="18800008888";
-
- #索引为空,没生效
- desc select * from tb_user where substring(phone,10,2)="88";
-
- #创建age的索引
- create index idx_user_age on tb_user(age);
-
- #索引生效
- desc select * from tb_user where age=35+10;
注意:字符串类型字段使用时,不加“”,索引将失效
- #查看我的建表语句得出phone字段为字符串类型
- show create table tb_user;
-
- #不加单引号也可以查询
- select * from tb_user where phone=18800008888;
-
- #不加单引号索引没生效
- explain select * from tb_user where phone=18800008888;
-
- #加了单引号索引生效
- desc select * from tb_user where phone="18800008888";
如果仅仅是尾部模糊匹配,索引不会失效,如果是头部模糊匹配,则索引失效
- #创建name的索引
- create index idx_user_name on tb_user(name);
-
- #尾部模糊,索引生效
- desc select * from tb_user where name like "李%";
- desc select * from tb_user where name like "李__";
-
- #头部模糊。索引失效
- desc select * from tb_user where name like "%宏";
- desc select * from tb_user where name like "__宏";
-
- #只要头部模糊索引失效
- desc select * from tb_user where name like "%彦%";
- desc select * from tb_user where name like "_彦_";
用or分割开的条件,如果仅仅一侧有索引,那么涉及的索引都不会被用到,若两边都有索引才会用到
- #创建age索引
- create index idx_user_age on student(age);
-
- #查看索引结构,发现有主键和age索引
- show index from tb_user;
-
- #数据量大的情况下测试
- desc select * from tb_user where id=1 or age=35;
如果mysql评估使用索引比全表扫描更慢,则不使用索引
- #为phone创建索引
- create index idx_user_phone on tb_user(phone);
-
- #走了索引(字符串形式可以使用>,<)
- desc select * from tb_user where phone>"18800009991";
-
- #没走索引,直接全表扫瞄了
- desc select * from tb_user where phone>"18800001111";
sql提示,是优化数据库的一个重要的手段,简单来说,就是在sql语句中加入一些人为的提示来达到优化操作的目的
- #提前创建好索引
- create index idx_user_age on tb_user(age);
- create index idx_user_all on tb_user(age,name);
-
- #走复合索引
- desc select * from tb_user where age=35;
-
- #走的是idx_user_age索引
- desc select * from tb_user ignore index(idx_user_all) where age=35;
覆盖索引:一条select查询语句在查询过程中使用到了索引,并且查询需要返回的列在该索引当中都已经全部找到了对应的字段值
注意:尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到),减少使用select *(因为很容易回表查询)。
- #查看索引
- show index from tb_user;
-
- #提前创建好索引
- create index idx_user_age on tb_user(age);
- create index idx_user_all on tb_user(name,age);
- create index idx_user_phone on tb_user(phone);
-
- #未走回表查询,直接索引覆盖,因为走复合索引name,age,有索引,id能找到因为就在下面
- explain select id,name,age from tb_user where name='码云';
-
- #用的复合索引,所以phone不可被索引覆盖走了回表查询
- explain select id,name,age,phone from tb_user where name='码云';
注意:回表查询走不走的原因见上文
含义:当字段类型未字符串时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘io,影响查询效率。此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率
语法:create index 索引名 on 表名(索引列名(n));
解释:后面的索引列名(n)标识截取字符串的前n个字符建立索引。
可以根据索引的选择性来确定,而选择性是指不重复的索引值(基数)和数据表记录总数的比值,索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的
计算整个字段选择性:select count(distinct 字段)/count(*) from 表名;
计算截取字段选择性:select count(distinct substring(字段,1,5))/count(*) from 表名;
- #创建前缀索引
- create index idx_user_name_1 on tb_user(name(1));
-
- #计算前缀索引的选择性,观之为1,nice
- select count(distinct substring(name,1,1))/count(*) from tb_user;
-
- #用到了前缀索引
- desc select * from tb_user where name="码云";
在业务场景中,如果存在多个查询条件,考虑针对字段建立索引时,建议建立联合索引,而非单列索引
- #提前创建好索引
- create index idx_user_age on tb_user(age);
- create index idx_user_name on tb_user(name);
-
- #用到了age索引即使name和age都有索引mysql会评估选择执行哪个索引效率会更高,然后选择该索引完成本次查询
- #如果创建联合索引,mysql就会选择用联合索引
- desc select * from tb_user where name="码云" and age=55;
如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用mysql数据库提供的load指令进行插入
查看开关是否开启:select @@local_infile;
注意:主键顺序插入的性能高于乱序插入
索引组织表:在innoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(iot)
注意:在B+Tree的数据结构中,所有的数据都会出现在叶子节点,而非叶子节点仅仅起到了索引数据的作用,而非叶子节点的索引以及叶子节点的数据都是存放在一个逻辑结构——页:Page当中的
主键顺序插入:数据一页一页的顺序插入,一页满了,再开下一页。
页可以为空,也可以填充一半,页也可以填充100%,每个页包含2-N行数据(如果一行数据过大,会行溢出),根据主键排序;以下面为例
主键乱序插入:
两张页已经写满了,如今要插入一个主键为50的数据,如下
由此观之id为50的数据应该存放在47之后,但是两张页已经满了,所以便会开辟一个新的数据页,将第一个数据页找到50%的位置,将(23、47)移动到新的数据页,然后再将50插入到该数据页
将链表指针再进行重新的设置,如下
当删除一行数据时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且他的空间变得允许被其他记录声明使用。当页中删除的记录达到MERGE_THRESHOLD(默认为页的50%),innoDB会开始寻找最靠近的页(前/后)看看是否可以将两个页合并以优化空间使用。
注意:MERGE_THRESHOLD为合并页的阈值(默认为50%),可以自己设置,在创建表或者创建索引时指定。
注意:order by排序使用覆盖索引才能使索引生效
- #查看索引
- show index from tb_user;
-
- #using filesort,没索引
- desc select age,gender from tb_user order by gender,age;
-
- #提前创建好索引
- create index idx_user_all on tb_user(gender,age);
-
- #使用索引覆盖了
- desc select gender,age from tb_user order by gender,age;
- desc select gender,age from tb_user order by gender desc,age desc;
-
- #Using index; Using filesort
- desc select gender,age from tb_user order by gender desc,age;
不同方式创建索引:create index idx_user_age_phone on tb_user(age asc,phone desc);
不同排序方式下的叶子节点
- #查看索引
- show index from tb_user;
-
- #没索引,全表扫描,效率低
- desc select gender,count(*) from tb_user group by gender;
-
- create index idx_user_all on tb_user(gender,age);
-
- #用到了索引
- desc select gender,count(*) from tb_user group by gender;
-
- #用到索引,Using index; Using temporary; Using filesort效率低
- desc select age,count(*) from tb_user group by age;
-
- #用到索引Using index,效率高
- desc select gender,age,count(*) from tb_user group by gender,age;
-
- #用到索引Using where; Using index,效率高
- desc select age,count(*) from tb_user where gender="1" group by age;
limit分页中一个常见又头痛的问题就是limit 2000000,10,此时需要mysql排序2000001记录,仅仅返回之后的10条,其他记录丢弃,查询排序代价非常大
优化思路:一般分页查询时,通过创建覆盖索引能够比较好的提升性能,可以通过覆盖索引和子查询的形式进行优化
原理:两次聚集索引查询——防止回表
count()是一个聚合函数,对于返回的结果集,一行一行的判断,如果count函数的参数不是null,累计值就加一,否则不加,最后返回累计值
用法:count(*)、count(主键)、count(字段)、count(1)
count(主键):innoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行进行累加(主键不可能为null)
count(字段):
- 没有not null约束:innoDB引擎会遍历整张表,把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加
- 有not null约束:innoDB引擎会遍历整张表,把每一行的字段值都取出来,返回个服务层,直接按行进行累加
count(1):innoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加
count(*):innoDB引擎并不会把全部的字段都取出来,而是专门做了优化,不取值,服务层直接按行进行累加
按照效率排序的话:count(字段) 前提:打开手动提交事务 情况一(name字段没加索引) 客户端一执行语句:update tb_user set age=8 where name="冰冰";(没有提交事务) 因为name没有索引,所以直接把表锁住了,客户端2根本不能操作表 情况二(name字段加索引) 客户端一执行语句:update tb_user set age=8 where name="冰冰";(没有提交事务) 因为name加了索引,所以直接找到name=“冰冰”;这行,把整行锁住,在没有提交事务前客户端二不能操作该行,但是可以操作该表中的其他行
update优化
注意:
举个例子-tb_user表