zl程序教程

您现在的位置是:首页 >  数据库

当前栏目

第二百八十八节,MySQL数据库-索引、limit分页、执行计划、慢日志查询

mysql数据库索引日志执行 查询 分页 计划
2023-09-14 08:58:24 时间

MySQL数据库-索引、limit分页、执行计划、慢日志查询

 

索引,是数据库中专门用于帮助用户快速查询数据的一种数据结构。类似于字典中的目录,查找字典内容时可以根据目录查找到数据的存放位置,然后直接获取即可。

如果没有创建索引查找数据时,是全表扫描的,也就是向查字典一样没有目录,靠一页一页的翻到目标数据位置,这样如果数据量大会相当耗时,

索引就是快速帮助用户找到目标数据,节省时间

 

索引简介

索引是以B+tree方式的树形结构存放数据的

 

详情,可以网上搜索一下B+tree

 

 

MySQL中常见索引有:

  普通索引
  唯一索引
  主键索引
  组合索引
  全文索引

 

 

1、普通索引

普通索引仅有一个功能:加速查询

  创建表时创建普通索引

  index(创建普通索引) 索引名称 (创建索引的字段、可以是多个字段)

create table in1(        -- 创建表
    nid int not null auto_increment primary key,  -- 创建nid字段,自增,主键
    name varchar(32) not null,  -- 创建字段
    email varchar(64) not null, -- 创建字段
    extra text,
    index ix_name (name) -- 创建普通索引
)

-- index(创建普通索引) 索引名称 (创建索引的字段、可以是多个字段)

  向已有表创建普通索引

  create(创建) index(索引) 索引名称 on 表名称(字段)

-- create(创建) index(索引) 索引名称 on 表名称(字段)

create index index_name on table_name(column_name)

  删除表的普通索引

  drop(删除)  INDEX(索引)  索引名称 on 表名称

-- drop(删除) INDEX(索引) 索引名称 on 表名称;

drop INDEX index_name on table_name;

  查看索引

  show(查看) index(索引) 表名称;

-- show(查看) index(索引) 表名称;


show index from usr;

 

  当创建索引后,执行一个sql查询语句,用执行计划验证这个查询语句是否使用索引找到的数据【重点】

   EXPLAIN表示执行计划,后面跟sql查询语句,返回的type的值如果是ref表示当前查询使用索引查询的,如果值是ALL表示当前查询使用的全表扫描

  EXPLAIN执行计划返回ref

EXPLAIN SELECT * FROM usr WHERE nl = 19;

  如果是全表扫描

   注意:对于创建索引时如果是BLOB 和 TEXT 类型,必须指定length。

create index ix_extra on in1(extra(32));

 

 

 

 

2、唯一索引

唯一索引有两个功能:加速查询 和 唯一约束(可含null),也就是约束此列类容不允许重复

  创建表时创建唯一索引

   unique唯一索引

create table in1(
    nid int not null auto_increment primary key,
    name varchar(32) not null,
    email varchar(64) not null,
    extra text,
    unique ix_name (name) -- 创建字段
)
-- unique(唯一) 索引名称 (索引字段)

  向已有表创建唯一索引

-- create unique index 索引名 on 表名(字段、多个字段,隔开)

create unique index index_usr on usr(nl,zij);

  删除唯一索引

-- drop INDEX 索引名 on 表名

drop INDEX index_usr on usr;

 

 

 

3、主键索引

主键有两个功能:加速查询 和 唯一约束(不允许有null),也就是约束此列类容不允许重复,一张表只能有一个主键

   primary key(字段名称,多个字段将组合成一个主键索引)

CREATE TABLE `usr` (
  `id` int(20) NOT NULL AUTO_INCREMENT COMMENT 'id',
  `yhm` char(255) NOT NULL COMMENT '用户名',
  `xb` char(255) NOT NULL COMMENT '性别',
  `nl` int(255) NOT NULL COMMENT '年龄',
  `zij` int(255) unsigned NOT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=17 DEFAULT CHARSET=utf8 COMMENT='用户表';

  给已有表创建主键索引

  alter table 表名 add primary key(列名);

-- alter table 表名 add primary key(列名);

alter table usr add primary key(id);

  删除主键索引

-- alter table 表名  modify 主键索引字段 字段数据类型, drop primary key;

alter table usr  modify id int, drop primary key;

 

 

 

 

4、组合索引

组合索引是将n个列组合成一个索引

其应用场景为:频繁的同时使用n列来进行查询,如:where n1 = 'alex' and n2 = 666。

index 索引名称 (字段1,字段2)组合普通索引
unique 索引名称 (字段1,字段2)组合唯一索引
PRIMARY KEY (字段1,字段2)组合主键索引

-- index 索引名称 (字段1,字段2)组合普通索引
index ix_name (n1,n2)
create index index_name on table_name(n1,n2) -- unique 索引名称 (字段1,字段2)组合唯一索引 unique ix_name (n1,n2)
create unique index index_usr on usr(n1,n2) -- PRIMARY KEY (字段1,字段2)组合主键索引 PRIMARY KEY (n1,n2)
alter table usr add primary key(n1,n2);

 

组合索引注意事项,最左前缀【重点】

1、也就是说如果是多个字段组合成一个索引,当查询字段时只查询的组合字段的左边第一个字段,是走索引的。

2、如果查询的组合字段的所有字段,也是走索引的

3、如果查询的不是索引组合字段,也不是只查询的左边第一个字段,是不走索引的

如:

create index index_usr on usr(n1,n2);  -- 创建组合普通索引

SELECT * FROM usr WHERE n1 = 'x';  -- 走索引

SELECT * FROM usr WHERE n1 = 'x' AND n2 = 'x';  -- 走索引

SELECT * FROM usr WHERE n2 = 'x';  -- 不走索引

 

 

 

 5、全文索引

全文索引,也就是向搜索引擎那样,根据一个关键词,搜索出所有数据里包含此关键词的数据,但是对中文支持不好,因为是根据空格或者分隔符分词的,所以一般我们不用这个方案

全文索引对中文起不了什么作用,索引就不说了

 

 

 

索引补充

1、索引
  索引是表的目录,在查找内容之前可以先在目录中查找索引位置,以此快速定位查询数据。对于索引,会保存在额外的文件中。

 

2、索引种类

  普通索引:仅加速查询
  唯一索引:加速查询 + 列值唯一(可以有null)
  主键索引:加速查询 + 列值唯一 + 表中只有一个(不可以有null)
  组合索引:多列值组成一个索引,组合索引要比索引合并效率高
  专门用于组合搜索,其效率大于索引合并
  全文索引:对文本的内容进行分词,进行搜索
  索引合并,使用多个单列索引组合搜索
  覆盖索引,select的数据列只用从索引中就能够取得,不必读取数据行,换句话说查询列要被所建的索引覆盖

 

3、相关命令

- 查看表结构
    desc 表名
 
- 查看生成表的SQL
    show create table 表名
 
- 查看索引
    show index from  表名
 
- 查看执行时间
    set profiling = 1;
    SQL...
    show profiles;

 

4、使用索引和不使用索引

由于索引是专门用于加速搜索而生,所以加上索引之后,查询效率会快到飞起来。
 
# 有索引
mysql> select * from tb1 where name = 'wupeiqi-888';
+-----+-------------+---------------------+----------------------------------+---------------------+
| nid | name        | email               | radom                            | ctime               |
+-----+-------------+---------------------+----------------------------------+---------------------+
| 889 | wupeiqi-888 | wupeiqi888@live.com | 5312269e76a16a90b8a8301d5314204b | 2016-08-03 09:33:35 |
+-----+-------------+---------------------+----------------------------------+---------------------+
1 row in set (0.00 sec)
 
# 无索引
mysql> select * from tb1 where email = 'wupeiqi888@live.com';
+-----+-------------+---------------------+----------------------------------+---------------------+
| nid | name        | email               | radom                            | ctime               |
+-----+-------------+---------------------+----------------------------------+---------------------+
| 889 | wupeiqi-888 | wupeiqi888@live.com | 5312269e76a16a90b8a8301d5314204b | 2016-08-03 09:33:35 |
+-----+-------------+---------------------+----------------------------------+---------------------+
1 row in set (1.23 sec)

 

5、正确使用索引

数据库表中添加索引后确实会让查询速度起飞,但前提必须是正确的使用索引来查询,如果以错误的方式使用,则即使建立索引也会不奏效。
即使建立索引,索引也不会生效:

 

-- like '%xx'  模糊查询
    select * from tb1 where name like '%cn';  -- 表示查询tb1表里name字段里,前面可以是多个任意字符后面包含cn的所有数据,%写在前面不走索引
        select * from tb1 where name like 'cn%';  -- 表示查询tb1表里name字段里,后面可以是多个任意字符前面包含cn的所有数据,%写在后面走索引


-- 使用函数
    select * from tb1 where reverse(name) = 'wupeiqi';  -- 在查询条件里,对索引字段使用了函数,不走索引


-- or 条件或
    select * from tb1 where nid = 1 or email = 'seven@live.com'; -- 条件或,如果两个字段都建了索引,那就走索引。如果只有一个字段建了索引,那就不走索引
    -- 特别的:当or条件中有未建立索引的列才失效,以下会走索引
            select * from tb1 where nid = 1 or name = 'seven';  -- 如果两个字段都建了索引,那就走索引
            select * from tb1 where nid = 1 or email = 'seven@live.com' and name = 'alex'  -- 如果只有email没建索引,其他字段都建了索引,这样是走索引的



-- 类型不一致
    -- 如果列是字符串类型,传入条件是必须用引号引起来,不然也不走索引
    select * from tb1 where name = 999;



-- !=
    select * from tb1 where name != 'alex'  -- 不等于、因为取反全部,所以不走索引
    -- 特别的:如果是主键,则还是会走索引
        select * from tb1 where nid != 123  -- 如果不等于,取反主键索引,会走索引的


-- >
    select * from tb1 where name > 'alex' -- 这种大于,不走索引
    -- 特别的:如果是主键或索引是整数类型,则还是会走索引
        select * from tb1 where nid > 123  -- 主键大于,走索引
        select * from tb1 where num > 123        -- 索引字段整数类型,走索引


-- order by   排序
    select email from tb1 order by name desc;  -- 当根据索引排序时候,选择的映射如果不是索引,则不走索引
    
        select * from tb1 order by nid desc;  -- 特别的:如果对主键排序,则还是走索引:


 
-- 组合索引最左前缀
    -- 如果组合索引为:(name,email)  将这两个字段组合成一个索引
    name and email       -- 使用索引
    name                 -- 使用索引
    email                -- 不使用索引

 

 

6、其他注意事项

避免使用select *  -- 避免使用*,在取字段时能少就少取字段

count(1)或count(列) 代替 count(*)  -- 因为*效率低

创建表时尽量时 char 代替 varchar  -- 因为char效率高查询快

表的字段顺序固定长度的字段优先前放 -- 这样效率高点

组合索引代替多个单列索引(经常使用多个条件查询时)-- 因为组合索引要比,多个单列索引合并查询效率高

尽量使用短索引  -- 如果只有前8位字符不一样,后面都是一样的,就没必要将整个字段全部键索引,只需要将字段里的前8位建索引即可
create index index_name on table_name(nl(8));

使用连接(JOIN)来代替子查询(Sub-Queries) -- JOIN链表查询效率高

连表时注意条件类型需一致 -- 也就是条件的数据类型一致效率高

索引散列值(重复多)不适合建索引,例:性别不适合 -- 一共就两个值男、女,基本都是重复的,建索引也不起作用

避免过度创建索引

如果大数据表导入另外的数据库时,建议先将索引去掉,导入后重建索引

 

 

7、limit分页

无论是否有索引,limit分页是一个值得关注的问题

假如一张表有5000000条数据

-- 不可取
SELECT * FROM usr LIMIT 2000000,5;   -- 从两百万条,开始取5条,那么会全表扫描到两百万条的位置开始取5条,效率很低

-- 这个办法也不可取,比上面好
SELECT * FROM usr id > (SELECT id FROM usr LIMIT 2000000,1) LIMIT 5; -- 先从ID找两百万条的位置取一条id,id有索引只查ID会走索引到两百万的位置,得到ID后将ID作为查询条件,会直接从这个ID查找,不在全表扫描

分页优化方案

每页显示10条:
当前 118 120125

倒序:
            大      小
            980    970  7 6  6 5  54  43  32

21 19 98     
下一页:
        -- 有页面
    select 
        * 
    from 
        tb1 
    where 
        nid < (select nid from (select nid from tb1 where nid < 当前页最小值 order by nid desc limit 每页数据 *【页码-当前页】) A order by A.nid asc limit 1)  
    order by 
        nid desc 
    limit 10;


        -- 无页面
    select 
        * 
    from 
        tb1 
    where 
        nid < (select nid from (select nid from tb1 where nid < 970  order by nid desc limit 40) A order by A.nid asc limit 1)  
    order by 
        nid desc 
    limit 10;


上一页:
        -- 有页面
    select 
        * 
    from 
        tb1 
    where 
        nid < (select nid from (select nid from tb1 where nid > 当前页最大值 order by nid asc limit 每页数据 *【当前页-页码】) A order by A.nid asc limit 1)  
    order by 
        nid desc 
    limit 10;

        -- 无页面
    select 
        * 
    from 
        tb1 
    where 
        nid < (select nid from (select nid from tb1 where nid > 980 order by nid asc limit 20) A order by A.nid desc limit 1)  
    order by 
        nid desc 
    limit 10;

 

 

8、执行计划

explain + 查询SQL - 用于显示SQL执行信息参数,根据参考信息可以进行SQL优化

mysql> explain select * from tb2;
+----+-------------+-------+------+---------------+------+---------+------+------+-------+
| id | select_type | table | type | possible_keys | key  | key_len | ref  | rows | Extra |
+----+-------------+-------+------+---------------+------+---------+------+------+-------+
|  1 | SIMPLE      | tb2   | ALL  | NULL          | NULL | NULL    | NULL |    2 | NULL  |
+----+-------------+-------+------+---------------+------+---------+------+------+-------+
1 row in set (0.00 sec)

执行计划详情

id
        查询顺序标识
            如:mysql> explain select * from (select nid,name from tb1 where nid < 10) as B;
            +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+
            | id | select_type | table      | type  | possible_keys | key     | key_len | ref  | rows | Extra       |
            +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+
            |  1 | PRIMARY     | <derived2> | ALL   | NULL          | NULL    | NULL    | NULL |    9 | NULL        |
            |  2 | DERIVED     | tb1        | range | PRIMARY       | PRIMARY | 8       | NULL |    9 | Using where |
            +----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+
        特别的:如果使用union连接气值可能为null


    select_type
        查询类型
            SIMPLE          简单查询
            PRIMARY         最外层查询
            SUBQUERY        映射为子查询
            DERIVED         子查询
            UNION           联合
            UNION RESULT    使用联合的结果
            ...
    table
        正在访问的表名


    type
        查询时的访问方式,性能:all < index < range < index_merge < ref_or_null < ref < eq_ref < system/const
            ALL             全表扫描,对于数据表从头到尾找一遍
                            select * from tb1;
                            特别的:如果有limit限制,则找到之后就不在继续向下扫描
                                   select * from tb1 where email = 'seven@live.com'
                                   select * from tb1 where email = 'seven@live.com' limit 1;
                                   虽然上述两个语句都会进行全表扫描,第二句使用了limit,则找到一个后就不再继续扫描。

            INDEX           全索引扫描,对索引从头到尾找一遍
                            select nid from tb1;

            RANGE          对索引列进行范围查找
                            select *  from tb1 where name < 'alex';
                            PS:
                                between and
                                in
                                >   >=  <   <=  操作
                                注意:!=> 符号 除外


            INDEX_MERGE     合并索引,使用多个单列索引搜索
                            select *  from tb1 where name = 'alex' or nid in (11,22,33);

            REF             根据索引查找一个或多个值
                            select *  from tb1 where name = 'seven';

            EQ_REF          连接时使用primary key 或 unique类型
                            select tb2.nid,tb1.name from tb2 left join tb1 on tb2.nid = tb1.nid;



            CONST           常量
                            表最多有一个匹配行,因为仅有一行,在这行的列值可被优化器剩余部分认为是常数,const表很快,因为它们只读取一次。
                            select nid from tb1 where nid = 2 ;

            SYSTEM          系统
                            表仅有一行(=系统表)。这是const联接类型的一个特例。
                            select * from (select nid from tb1 where nid = 1) as A;
    possible_keys
        可能使用的索引

    key
        真实使用的

    key_len
        MySQL中使用索引字节长度

    rows
        mysql估计为了找到所需的行而要读取的行数 ------ 只是预估值,表示扫描了多少行

    extra
        该列包含MySQL解决查询的详细信息
        “Using index”
            此值表示mysql将使用覆盖索引,以避免访问表。不要把覆盖索引和index访问类型弄混了。
        “Using where”
            这意味着mysql服务器将在存储引擎检索行后再进行过滤,许多where条件里涉及索引中的列,当(并且如果)它读取索引时,就能被存储引擎检验,因此不是所有带where子句的查询都会显示“Using where”。有时“Using where”的出现就是一个暗示:查询可受益于不同的索引。
        “Using temporary”
            这意味着mysql在对查询结果排序时会使用一个临时表。
        “Using filesort”
            这意味着mysql会对结果使用一个外部索引排序,而不是按索引次序从表里读取行。mysql有两种文件排序算法,这两种排序方式都可以在内存或者磁盘上完成,explain不会告诉你mysql将使用哪一种文件排序,也不会告诉你排序会在内存里还是磁盘上完成。
        “Range checked for each record(index map: N)”
            这个意味着没有好用的索引,新的索引将在联接的每一行上重新估算,N是显示在possible_keys列中索引的位图,并且是冗余的。

 

 

9、慢日志查询

慢日志查询,就是用一个日志文件记录,sql语句查询数据库时,耗时比较长的,或者没有使用索引的情况记录一下,我们可以根据这个日志记录情况来对数据库进行优化。

数据库自带记录慢日志功能,默认没有开启,需要我们手动开启一下

开启慢日志相关全局变量

slow_query_log = OFF                       -- 是否开启慢日志记录
long_query_time = 2                        -- 时间限制,sql查询超过此时间,则记录,默认是10秒
slow_query_log_file = /usr/slow.log        -- 日志文件,日志文件路径
log_queries_not_using_indexes = OFF        -- 未使用索引的搜索是否记录

 

 

开启记录慢日志功能有两种方法:

  1、在数据库配置文件my-default.ini文件里配置,在文件里写入相关全局变量,保存后需要重启数据库【推荐】

  my-default.ini文件在安装的数据库目录里

# For advice on how to change settings please see
# http://dev.mysql.com/doc/refman/5.7/en/server-configuration-defaults.html
# *** DO NOT EDIT THIS FILE. It's a template which will be copied to the
# *** default location during install, and will be replaced if you
# *** upgrade to a newer version of MySQL.

[mysqld]

# Remove leading # and set to the amount of RAM for the most important data
# cache in MySQL. Start at 70% of total RAM for dedicated server, else 10%.
# innodb_buffer_pool_size = 128M

# Remove leading # to turn on a very important data integrity option: logging
# changes to the binary log between backups.
# log_bin

# These are commonly set, remove the # and set as required.
# basedir = .....
# datadir = .....
# port = .....
# server_id = .....

slow_query_log = ON                       
long_query_time = 1                        
slow_query_log_file = /usr/slow.log        
log_queries_not_using_indexes = ON        


# Remove leading # to set options mainly useful for reporting servers.
# The server defaults are faster for transactions and fast SELECTs.
# Adjust sizes as needed, experiment to find the optimal values.
# join_buffer_size = 128M
# sort_buffer_size = 2M
# read_rnd_buffer_size = 2M 

sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES 

 

  2、使用命令开启,记录日志,不需要重启数据库

  首先使用命令查看相关的全局变量是否开始

SHOW GLOBAL VARIABLES LIKE '%query%';  -- 使用模糊查询全局变量情况

  查看未使用索引的搜索是否记录

SHOW GLOBAL VARIABLES LIKE 'log_queries_not_using_indexes';  -- 未使用索引的搜索是否记录

 

  使用命令开启慢日志记录相关全局变量,注意使用命令开启的全局变量数据库重启后变量将恢复默认

  如果想要数据库重启后慢日志变量也是开启的,建议在my-default.ini文件里配置

SET GLOBAL slow_query_log = on;  -- 开启慢日志记录
SET GLOBAL long_query_time = 1;  -- 设置sql语句查询耗时超过1秒的记录
SET GLOBAL log_queries_not_using_indexes = on;  -- 开启记录没有使用索引的sql查询记录

 

 

 

查看MySQL慢日志文件

win版本没有mysqldumpslow解释器来执行mysqldumpslow.pl文件,索引需要安装ActivePerl_5.16.2.3010812913.msi,软件来执行mysqldumpslow.pl文件

双击下一步,下一步安装好ActivePerl_5.16.2.3010812913.msi,软件

linu版本就不需要了,linu版本自带了mysqldumpslow解释器

 

安装好ActivePerl_5.16.2.3010812913.msi,软件后,管理员方式运行cmd命令

cd E:\mysql-5.7.16-winx64\bin  #进入mysql安装目录的bin目录里

注意:以下操作,linu版本不需要加perlwin版本加perl表示用安装的ActivePerl来执行mysqldumpslow.pl文件

 

查看解析慢日志文件的mysqldumpslow.pl文件说明

perl mysqldumpslow.pl --help  #查看解析慢日志文件的mysqldumpslow.pl文件说明

 

mysqldumpslow.pl文件说明

 

"""
--verbose    版本
--debug      调试
--help       帮助
 
-v           版本
-d           调试模式
-s ORDER     排序方式
             what to sort by (al, at, ar, c, l, r, t), 'at' is default
              al: average lock time    -- 平均锁时间
              ar: average rows sent    -- 返回值时间
              at: average query time   -- sql查询时间
               c: count
               l: lock time
               r: rows sent
               t: query time
-r           反转顺序,默认文件倒序拍。reverse the sort order (largest last instead of first)
-t NUM       显示前N条just show the top n queries  -- 显示多少条数据
-a           不要将SQL中数字转换成N,字符串转换成S。don't abstract all numbers to N and strings to 'S'  -- 默认会转换数字和字符串,-a表示不转换
-n NUM       abstract numbers with at least n digits within names
-g PATTERN   正则匹配;grep: only consider stmts that include this string   -g表示支持正则匹配,后面就可以跟正则
-h HOSTNAME  mysql机器名或者IP;hostname of db server for *-slow.log filename (can be wildcard),
             default is '*', i.e. match all
-i NAME      name of server instance (if using mysql.server startup script)
-l           总时间中不减去锁定时间;don't subtract lock time from total time
"""

 

下面我们开始查看日志

CHCP 65001 -- 设置cmd为utf-8变量,因为可能有中文,65001为utf-8编码号

CHCP 65001 -- 设置cmd为utf-8变量,因为可能有中文,65001为utf-8编码号

输入查看日志命令

注意:组合命令时按照上面的说明顺序进行

-- mysqldumpslow.pl -s(排序方式) at(按照sql查询时间) -t 5 -a(转换数字和字符串)  日志路径
mysqldumpslow.pl -s at -t 5 -a  E:\mysql-5.7.16-winx64\data\SKY-20160816NYP-slow.log

 

这样就可以根据查询数据,和扫描了多少行来进行数据库表优化