• 索引的设计原则


    1. 准备数据

    #1.创建学生表和课程表
    CREATE TABLE `student_info` (
    	`id` INT(11) NOT NULL AUTO_INCREMENT,
    	`student_id` INT NOT NULL ,
    	`name` VARCHAR(20) DEFAULT NULL,
    	`course_id` INT NOT NULL ,
    	`class_id` INT(11) DEFAULT NULL,
    	`create_time` DATETIME DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
    	PRIMARY KEY (`id`)
    ) ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
    
    CREATE TABLE `course` (
    	`id` INT(11) NOT NULL AUTO_INCREMENT,
    	`course_id` INT NOT NULL ,
    	`course_name` VARCHAR(40) DEFAULT NULL,
    	PRIMARY KEY (`id`)
    ) ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    #函数1:创建随机产生字符串函数
    DELIMITER //
    CREATE FUNCTION rand_string(n INT)
    	RETURNS VARCHAR(255) #该函数会返回一个字符串
    BEGIN
    	DECLARE chars_str VARCHAR(100) DEFAULT
    'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
    	DECLARE return_str VARCHAR(255) DEFAULT '';
    	DECLARE i INT DEFAULT 0;
    	WHILE i < n DO
    		SET return_str =CONCAT(return_str,SUBSTRING(chars_str,FLOOR(1+RAND()*52),1));
    		SET i = i + 1;
    	END WHILE;
    	RETURN return_str;
    END //
    DELIMITER ;
    
    
    #函数2:创建随机数函数
    DELIMITER //
    	CREATE FUNCTION rand_num (from_num INT ,to_num INT) RETURNS INT(11)
    BEGIN
    	DECLARE i INT DEFAULT 0;
    	SET i = FLOOR(from_num +RAND()*(to_num - from_num+1)) ;
    	RETURN i;
    END //
    DELIMITER ;
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    # 存储过程1:创建插入课程表存储过程
    DELIMITER //
    	CREATE PROCEDURE insert_course( max_num INT )
    BEGIN
    	DECLARE i INT DEFAULT 0;
    	SET autocommit = 0; #设置手动提交事务
    	REPEAT #循环
    		SET i = i + 1; #赋值
    		INSERT INTO course (course_id, course_name ) VALUES (rand_num(10000,10100),rand_string(6));
    		UNTIL i = max_num
    	END REPEAT;
    	COMMIT; #提交事务
    END //
    DELIMITER ;
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    # 存储过程2:创建插入学生信息表存储过程
    DELIMITER //
    	CREATE PROCEDURE insert_stu( max_num INT )
    BEGIN
    	DECLARE i INT DEFAULT 0;
    	SET autocommit = 0; #设置手动提交事务
    	REPEAT #循环
    	SET i = i + 1; #赋值
    	INSERT INTO student_info (course_id, class_id ,student_id ,NAME ) VALUES (rand_num(10000,10100),rand_num(10000,10200),rand_num(1,200000),rand_string(6));
    	UNTIL i = max_num
    	END REPEAT;
    	COMMIT; #提交事务
    END //
    DELIMITER ;
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    # 最后:调用存储过程
    CALL insert_course(100);
    CALL insert_stu(1000000); // 准备一百万条数据
    
    • 1
    • 2
    • 3

    创建函数可能会出现的问题

    This function has none of DETERMINISTIC......
    
    • 1

    由于开启过慢查询日志bin-log, 我们就必须为我们的function指定一个参数。主从复制,主机会将写操作记录在bin-log日志中。从机读取bin-log日志,执行语句来同步数据。如果使用函数来操作数据,会导致从机和主键操作时间不一致。所以,默认情况下,mysql不开启创建函数设置。

    • 查看mysql是否允许创建函数:
    show variables like 'log_bin_trust_function_creators';
    
    • 1
    • 命令开启:允许创建函数设置:
    set global log_bin_trust_function_creators=1; # 不加global只是当前窗口有效。
    
    • 1

    适合创建索引的场景

    1. 字段的数值有唯一性的限制

    业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。(来源:Alibaba)
    说明:不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的。

    2. 频繁作为 WHERE 查询条件的字段

    某个字段在SELECT语句的 WHERE 条件中经常被使用到,那么就需要给这个字段创建索引了。尤其是在数据量大的情况下,创建普通索引就可以大幅提升数据查询的效率。比如student_info数据表(含100万条数据),假设我们想要查询 student_id=123110 的用户信息:

    # 没有索引
    SELECT * FROM student_info WHERE student_id=123110 # 0.297s
    
    # 加索引
    ALTER TABLE student_info ADD INDEX xid_si(student_id);
    SELECT * FROM student_info WHERE student_id=123110 # 0.027s
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    3. 经常 GROUP BY 和 ORDER BY 的列

    索引就是让数据按照某种顺序进行存储或检索,因此当我们使用 GROUP BY 对数据进行分组查询,或者
    使用 ORDER BY 对数据进行排序的时候,就需要对分组或者排序的字段进行索引。如果待排序的列有多
    个,那么可以在这些列上建立组合索引

    # 建立两个单值索引index_student_id和index_create_time,但只会生效第一个,因为先执行GROUP BY  3.832s
    # 第一种情况:联合索引 xid_si_ct 0.024s
    # 第二种情况:联合索引 xid_ct_si (不遵循最左原则,student_id索引放在后面),如果存在单值索引最后不会走该索引
    EXPLAIN SELECT student_id, COUNT(*) AS num FROM student_info
    GROUP BY student_id
    ORDER BY create_time DESC
    LIMIT 100
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 第二种情况去创建索引
      在这里插入图片描述

    4. UPDATE、DELETE 的 WHERE 条件列

    对数据按照某个条件进行查询后再进行 UPDATE 或 DELETE 的操作,如果对 WHERE 字段创建了索引,就能大幅提升效率。原理是因为我们需要先根据 WHERE 条件列检索出来这条记录,然后再对它进行更新或删除。如果进行更新的时候,更新的字段是非索引字段,提升的效率会更明显,这是因为非索引字段更新不需要对索引进行维护。

    5. DISTINCT 字段需要创建索引

    有时候我们需要对某个字段进行去重,使用 DISTINCT,那么对这个字段创建索引,也会提升查询效率。比如,我们想要查询课程表中不同的 student_id 都有哪些

    # 没有索引 0.571s
    # 有索引 0.453s,提升不明显
    SELECT DISTINCT(student_id) FROM `student_info`;
    
    • 1
    • 2
    • 3

    这是因为索引会对数据按照某种顺序进行排序,所以在去重的时候也会快。

    6. 多表 JOIN 连接操作时,创建索引注意事项

    1. 首先, 连接表的数量尽量不要超过 3 张,因为每增加一张表就相当于增加了一次嵌套的循环,数量级增长会非常快,严重影响查询的效率。
    2. 其次, 对 WHERE 条件创建索引,因为 WHERE 才是对数据条件的过滤。如果在数据量非常大的情况下,没有 WHERE 条件过滤是非常可怕的。
    3. 最后, 对用于连接的字段创建索引,并且该字段在多张表中的类型必须一致。比如course_id 在student_info 表和 course 表中都为 int(11) 类型,而不能一个为 int 另一个为 varchar 类型。不然会导致索引失效
    # 没有索引 0.225s
    # 有3个索引(name索引,course_id索引) 0.03s
    SELECT s.course_id, name, s.student_id, c.course_name
    FROM student_info s JOIN course c
    ON s.course_id = c.course_id
    WHERE name = '462eed7ac6e791292a79';
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    7. 使用列的类型小的创建索引

    我们这里所说的类型大小指的就是该类型表示的数据范围的大小。
    我们在定义表结构的时候要显式的指定列的类型,以整数类型为例,有TINYINT、MEDIUMINT、INT、BIGINT等,它们占用的存储空间依次递增,能表示的整数范围当然也是依次递增。如果我们想要对某个整数列建立索引的话,在表示的整数范围允许的情况下,尽量让索引列使用较小的类型,比如我们能使用INT就不要使用BIGINT,能使用MEDIUMINT就不要使用INT。这是因为:

    • 数据类型越小,在查询时进行的比较操作越快
    • 数据类型越小,索引占用的存储空间就越少,在一个数据页内就可以放下更多的记录,从而减少磁盘I/0带来的性能损耗,也就意味着可以把更多的数据页缓存在内存中,从而加快读写效率。

    这个建议对于表的主键来说更加适用,因为不仅是聚簇索引中会存储主键值,其他所有的二级索引的节点处都会存储一份记录的主键值,如果主键使用更小的数据类型,也就意味着节省更多的存储空间和更高效的I/O.

    8. 使用字符串前缀创建索引

    创建一张商户表,因为地址字段比较长,在地址字段上建立前缀索引:

    create table shop(address varchar(120) not null);
    alter table shop add index(address(12));
    
    • 1
    • 2

    问题是,截取多少呢?截取得多了,达不到节省索引存储空间的目的;截取得少了,重复内容太多,字段的散列度(选择性)会降低。怎么计算不同的长度的选择性呢?
    先看一下字段在全部数据中的选择度:

    select count(distinct address) / count(*) from shop
    
    • 1

    通过不同长度去计算,与全表的选择性对比:

    count(distinct left(列名, 索引长度))/count(*)
    
    • 1

    引申另一个问题:索引列前缀对排序的影响
    拓展:Alibaba《Java开发手册》
    【 强制 】在 varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度。
    说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达90%以上,可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。

    9. 区分度高(散列性高)的列适合作为索引

    列的基数指的是某一列中不重复数据的个数,比方说某个列包含值2,5,8,2,5,8,2,5,8,虽然有9条记录,但该列的基数却是3。也就是说,在记录行数一定的情况下,列的基数越大,该列中的值越分散;列的基数越小,该列中的值越集中。这个列的基数指标非常重要,直接影响我们是否能有效的利用索引。最好为列的基数大的列建立索引,为基数太小列的建立索引效果可能不好。

    可以使用公式select count(distinct a)/count(*) from t1计算区分度,越接近1越好,一般超过33%就算是比较高效的索引了。
    拓展:联合索引把区分度高(散列性高)的列放在前面。

    10. 使用最频繁的列放到联合索引的左侧

    这样也可以较少的建立一些索引。同时,由于"最左前缀原则",可以增加联合索引的使用率。

    11. 在多个字段都要创建索引的情况下,联合索引优于单值索引


    不适合创建索引的场景

    1. 在where中使用不到的字段,不要设置索引

    2. 数据量小的表最好不要使用索引

    结论:在数据表中的数据行数比较少的情况下,比如不到 1000 行,是不需要创建索引的。

    3. 有大量重复数据的列上不要建立索引

    结论:当数据重复度大,比如 高于 10% 的时候,也不需要对这个字段使用索引。

    4. 避免对经常更新的表创建过多的索引

    5. 不建议用无序的值作为索引

    例如身份证、UUID(在索引比较时需要转为ASCII,并且插入时可能造成页分裂)、MD5、HASH、无序长字符串等。


    建议

    1. 删除不再使用或者很少使用的索引

    2. 不要定义冗余或重复的索引

    联合索引的最左字段可以当作单列索引使用,这时候有联合索引和单列索引(最左字段和单列字段一致),此时单列索引就没有必要了


    总结

    在实际工作中,我们也需要注意平衡,索引的数目不是越多越好。我们需要限制每张表上的索引数量,建议单张表索引数量不超过6个。原因:

    1. 每个索引都需要占用磁盘空间,索引越多,需要的磁盘空间就越大。
    2. 索引会影响INSERT、DELETE、UPDATE等语句的性能,因为表中的数据更改的同时,索引也会进行调整和更新,会造成负担。
    3. 优化器在选择如何优化查询时,会根据统一信息,对每一个可以用到的索引来进行评估,以生成出一个最好的执行计划,如果同时有很多个索引都可以用于查询,会增加MysQL优化器生成执行计划时间,降低查询性能。’
  • 相关阅读:
    AIX 系统基线安全加固操作
    有趣的23000----整理(10)G词根
    MySQL:事务1(锁与隔离级别)
    Linux修改SSH连接的默认端口
    创新案例分享 | 建设高校科研管理信息系统,助力提升信息化实际效能
    商户订单信息语音通知功能如何实现?
    亚信安慧AntDB数据并行加载工具的实现(二)
    力扣 895. 最大频率栈
    机器学习(二):线性回归
    Impala 安装
  • 原文地址:https://blog.csdn.net/pmc0_0/article/details/126275671