资讯

精准传达 • 有效沟通

从品牌网站建设到网络营销策划，从策略到执行的一站式服务

网站建设 >

查看其它板块

MySQL中关于排序orderbylimit值不稳定分析

这篇文章主要介绍“MySQL中关于排序order by limit值不稳定分析”，在日常操作中，相信很多人在MySQL中关于排序order by limit值不稳定分析问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答”MySQL中关于排序order by limit值不稳定分析”的疑惑有所帮助！接下来，请跟着小编一起来学习吧！

创新互联公司服务项目包括新晃网站建设、新晃网站制作、新晃网页制作以及新晃网络营销策划等。多年来，我们专注于互联网行业，利用自身积累的技术优势、行业经验、深度合作伙伴关系等，向广大中小型企业、政府机构等提供互联网行业的解决方案，新晃网站推广取得了明显的社会效益与经济效益。目前，我们服务的客户以成都为中心已经辐射到新晃省份的部分城市，未来相信会继续扩大服务区域并继续获得客户的支持与信任！

一、问题抛出

数据如下：

CREATE TABLE `testse` (  `id` int(11) NOT NULL,  `nu` int(11) DEFAULT NULL,  `name` varchar(20) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `nu` (`nu`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
INSERT INTO `testse` VALUES (-1,14,'gaopeng'),(0,14,'gaopeng'),(1,1,'gaopeng'),(2,99,'gaopeng'),(3,55,'gaopeng'),(4,20,'gaopeng'),(5,24,'gaopeng'),(6,14,'gaopeng'),(7,14,'gaopeng'),(8,13,'gaopeng'),(9,9,'gaopeng'),(10,19,'gaopeng'),(11,20,'gaopeng'),(12,14,'gaopeng'),(13,15,'gaopeng'),(14,16,'gaopeng'),(15,20,'gaopeng'),(100,14,'gaope
ng'),(111,14,'gaopeng');

问题如下：

mysql>  select *  from testse order by  nu limit 3,1;
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+| 111 |   14 | gaopeng |+-----+------+---------+1 row in set (2.76 sec)
mysql>  select *  from testse force index(nu) order by  nu limit 3,1;
+----+------+---------+| id | nu   | name    |+----+------+---------+| -1 |   14 | gaopeng |+----+------+---------+1 row in set (0.00 sec)

问为什么这两个语句得到的数据不一样。

二、问题原因

这里首先给出原因，在MySQL排序的时候可以使用索引来避免排序及不需要使用filesort，其次当使用filesort的时候可能在内存中出现两种情况及堆排序列和快速排序两种方式。所以MySQL内存排序可以使用的途径包含：

  • 直接利用索引避免排序

  • 快速排序

  • 堆排序

具体使用哪一种排序方式是优化器决定的，总的说来如下：

  • 直接利用索引避免排序：用于有索引且回表效率高的情况下

  • 快速排序算法：如果没有索引大量排序的情况下

  • 堆排序算法：如果没有索引排序量不大的情况下

而快速排序和堆排序是不稳定的排序算法，也就是对于重复值是不能保证顺序的。而直接利用索引的话其返回数据是稳定的，因为索引的B+树叶子结点的顺序是唯一且一定的。如上的key nu，其叶子结点包含了nu+id，它是唯一的顺序也是递增的。因此在这种不稳定的算法情况下上面的查询出现了不一样的结果，归根结底就是使用索引避免排序和堆排序对于重复值的处理上是不同的。
也许你会问为什么存在两种排序方式，实际上在大量排序的情况下快速排序是有优势的，而堆排序使用优先队列只完成少量的排序是有优势的，因为它根本不需要排序完成只排序你需要的数据量就可以了。

MySQL认为快速排序的速度是堆排序的3倍如下：

  /*
    How much Priority Queue sort is slower than qsort.
    Measurements (see unit test) indicate that PQ is roughly 3 times slower.
  */
  const double PQ_slowness= 3.0;

那么在使用排序算法的时候会根据待排序数据量的大小进行切换具体根据函数check_if_pq_applicable进行判定的。在filesort函数里面有如下代码：

if (check_if_pq_applicable(trace, ¶m, &table_sort,
                             table, num_rows, memory_available,
                             subselect != NULL))
  {
    DBUG_PRINT("info", ("filesort PQ is applicable")); //使用堆排序
    /*
      For PQ queries (with limit) we know exactly how many pointers/records
      we have in the buffer, so to simplify things, we initialize
      all pointers here. (We cannot pack fields anyways, so there is no
      point in doing lazy initialization).
     */
    table_sort.init_record_pointers();
    .....
   filesort->using_pq= true;
    param.using_pq= true;
  }  else//使用快速排序
  {
    DBUG_PRINT("info", ("filesort PQ is not applicable"));
    filesort->using_pq= false;
    param.using_pq= false;
 .....
  }

三、如何确定是使用的那种方法返回排序的结果。

对于直接利用索引避免排序，这个直接看执行计划就好了，不会出现filesort字样。但是对于到底使用额快速排序还是堆排序则不好判断因为执行计划是一样的，我想到的只能是在调试的时候做断点，不知道还有其他办法没有。因此我在上面代码的if分支里面做了2个断点，其中一个断点在堆排序算法里面，一个断点在快速排序算法里面如下：

3       breakpoint     keep y   0x0000000000f50e62 in filesort(THD*, Filesort*, bool, ha_rows*, ha_rows*, ha_rows*)
                                               at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:359
        breakpoint already hit 3 times4       breakpoint     keep y   0x0000000000f50d41 in filesort(THD*, Filesort*, bool, ha_rows*, ha_rows*, ha_rows*)
                                               at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:333
        breakpoint already hit 1 time

其中断点3代表快速排序命中，断点4代表堆排序命中。

四、额外的测试

如上所述我们可以将结果的返回定义为三种方式，我们将在这里测试这三种方式的得到数据不同。

  • 使用索引避免排序的结果

语句：
select * from testse force index(nu) order by nu;

mysql> desc select *  from testse force index(nu) order by  nu;
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+-------+| id | select_type | table  | partitions | type  | possible_keys | key  | key_len | ref  | rows | filtered | Extra |
+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+-------+
|  1 | SIMPLE      | testse | NULL       | index | NULL          | nu   | 5       | NULL |   19 |   100.00 | NULL  |+----+-------------+--------+------------+-------+---------------+------+---------+------+------+----------+-------+1 row in set, 1 warning (0.00 sec)
mysql> select *  from testse force index(nu) order by  nu;
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng ||  -1 |   14 | gaopeng ||   0 |   14 | gaopeng ||   6 |   14 | gaopeng ||   7 |   14 | gaopeng ||  12 |   14 | gaopeng || 100 |   14 | gaopeng || 111 |   14 | gaopeng ||  13 |   15 | gaopeng ||  14 |   16 | gaopeng ||  10 |   19 | gaopeng ||   4 |   20 | gaopeng ||  11 |   20 | gaopeng ||  15 |   20 | gaopeng ||   5 |   24 | gaopeng ||   3 |   55 | gaopeng ||   2 |   99 | gaopeng |+-----+------+---------+19 rows in set (0.01 sec)

  • 使用快速排序的结果

语句：
select * from testse order by nu;

因为我前面设置了断点，其断点命中如下：

Breakpoint 3, filesort (thd=0x7fff300128c0, filesort=0x7fff30963e90, sort_positions=false, examined_rows=0x7ffff01158a0, found_rows=0x7ffff0115898, 
    returned_rows=0x7ffff0115890) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:359
359         DBUG_PRINT("info", ("filesort PQ is not applicable"));

可以看到PQ 没有开启，也就是堆排序没有使用使用的优先队列堆排序方式。那么它的结果是

mysql> desc select *  from testse order by  nu;
+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+| id | select_type | table  | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra          |
+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+
|  1 | SIMPLE      | testse | NULL       | ALL  | NULL          | NULL | NULL    | NULL |   19 |   100.00 | Using filesort |+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+1 row in set, 1 warning (0.00 sec)
mysql> select *  from testse order by  nu;
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng || 111 |   14 | gaopeng || 100 |   14 | gaopeng ||  12 |   14 | gaopeng ||   7 |   14 | gaopeng ||   6 |   14 | gaopeng ||   0 |   14 | gaopeng ||  -1 |   14 | gaopeng ||  13 |   15 | gaopeng ||  14 |   16 | gaopeng ||  10 |   19 | gaopeng ||   4 |   20 | gaopeng ||  11 |   20 | gaopeng ||  15 |   20 | gaopeng ||   5 |   24 | gaopeng ||   3 |   55 | gaopeng ||   2 |   99 | gaopeng |+-----+------+---------+19 rows in set (1.74 sec)

  • 使用堆排序

语句：
select * from testse order by nu limit 8;

其断点命中

Breakpoint 4, filesort (thd=0x7fff300128c0, filesort=0x7fff3095ecc8, sort_positions=false, examined_rows=0x7ffff01158a0, found_rows=0x7ffff0115898, 
    returned_rows=0x7ffff0115890) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:333
333         DBUG_PRINT("info", ("filesort PQ is applicable"));

可以看到PQ 开启了，也就是堆排序。

mysql> desc  select *  from testse order by  nu limit 8;
+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+| id | select_type | table  | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra          |
+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+
|  1 | SIMPLE      | testse | NULL       | ALL  | NULL          | NULL | NULL    | NULL |   19 |   100.00 | Using filesort |+----+-------------+--------+------------+------+---------------+------+---------+------+------+----------+----------------+1 row in set, 1 warning (0.00 sec)
mysql> select *  from testse order by  nu limit 8;
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng ||  -1 |   14 | gaopeng ||   0 |   14 | gaopeng ||  12 |   14 | gaopeng || 111 |   14 | gaopeng ||   6 |   14 | gaopeng |+-----+------+---------+8 rows in set (2.20 sec)

可以看到从前面8行来看，每种方法返回的数据是不一样的：

使用索引避免排序：
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng ||  -1 |   14 | gaopeng ||   0 |   14 | gaopeng ||   6 |   14 | gaopeng ||   7 |   14 | gaopeng ||  12 |   14 | gaopeng |使用快速排序：
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng || 111 |   14 | gaopeng || 100 |   14 | gaopeng ||  12 |   14 | gaopeng ||   7 |   14 | gaopeng ||   6 |   14 | gaopeng |使用堆排序：
+-----+------+---------+| id  | nu   | name    |+-----+------+---------+|   1 |    1 | gaopeng ||   9 |    9 | gaopeng ||   8 |   13 | gaopeng ||  -1 |   14 | gaopeng ||   0 |   14 | gaopeng ||  12 |   14 | gaopeng || 111 |   14 | gaopeng ||   6 |   14 | gaopeng |+-----+------+---------+

五、总结

可以看到在不同的获取数据的方式得到的数据是一样的，但是这只是重复数据排序的部分，这是排序算法的不稳定性决定的。快速排序适合大数据量排序，堆排序在少量排序上有优势，因此当order by limit n，n到了一个数量级的时候会切换排序算法，这个在执行计划是看不到的，具体使用那种算法是优化器通过函数check_if_pq_applicable进行判定的。
其次这只是一种造成排序数据不一致的情况还有一种情况是由于参数 max_length_for_sort_data的参数影响的一次排序和二次排序，这个有机会在研究一下代码。一般默认1024个字节还是很少会超过的。

六、堆排序算法简单说明

最后我还是想简单描述一下堆排序算法，也当复习一下。具体可以参考算法导论等书籍，我们以大顶堆为例，实际上任何一个待排序的数组都可以看成一棵完全二叉树，用算法导论的截图如下：

MySQL中关于排序order by limit值不稳定分析

image.png

这棵树是满足大顶堆定义的，在大顶堆中有如下特性：

  • 必须满足完全二叉树

  • 很方便的根据父节点的位置计算出两个叶子结点的位置
    如果父节点的位置为i/2，左子节点为 i，右子节点为i+1这是完全二叉树的特性决定

  • 所有子节点都可以看做一个子堆那么所有结点都有
    父节点>左子节点 && 父节点>右节点

  • 很明显的可以找到最大的元素，就是整个堆的根结点

在这个算法中，最重要也是最主要的就是堆的维护，堆的构建。

  • 维护：
    维护：采用的是自上而下的维护，可以用递归完成。
    这里电子版有点不清晰，黑色结点就是值4

MySQL中关于排序order by limit值不稳定分析

image.png

对应我最后的代码 bigheapad函数

  • 构建
    构建：是采用自下而上的构建，构建就是不断循环的对各个父结点做维护，以达到对任何一个无序数组满足大顶堆的条件。因为下层的子树满足了大顶堆条件那么上层就一定满足大顶堆的条件。

MySQL中关于排序order by limit值不稳定分析

image.png

MySQL中关于排序order by limit值不稳定分析

image.png

对应我最后的代码bigheapbulid函数

  • 排序

实际上排序就是将数组中的第一个数字也就是最大的数字和最后一个数字交换，然后再次做一次维护做好大顶堆结构即可，如果反复不断做这个操作那么整个素组都会排序完成。

MySQL中关于排序order by limit值不稳定分析

image.png

MySQL中关于排序order by limit值不稳定分析

image.png

我的函数参考biglimitn和bigheapsort函数。对于MySQL的源码中堆排序的代码存在于priority_queue.h文件中，其中可以看到一些方法如：

  • 维护 heapify函数

  • 构建 build_heap函数

  • 排序 sort函数
    当然源码的实现复杂得多，有兴趣的朋友可以深入。栈帧备查：

#0  Priority_queue >, ::Mem_compare>::heapify(size_t, size_t) (this=0x7ffff0115650, i=0, last=8)
    at /root/mysql5.7.14/percona-server-5.7.14-7/include/priority_queue.h:124#1  0x0000000000f5807a in Priority_queue >, ::Mem_compare>::heapify(size_t) (this=0x7ffff0115650, i=0)
    at /root/mysql5.7.14/percona-server-5.7.14-7/include/priority_queue.h:147#2  0x0000000000f57d1e in Priority_queue >, ::Mem_compare>::update_top(void) (this=0x7ffff0115650)
    at /root/mysql5.7.14/percona-server-5.7.14-7/include/priority_queue.h:354#3  0x0000000000f57814 in Bounded_queue::Mem_compare>::push(uchar *) (this=0x7ffff0115650, element=0x7fff309166a0 "o")
    at /root/mysql5.7.14/percona-server-5.7.14-7/sql/bounded_queue.h:106#4  0x0000000000f52da7 in find_all_keys(Sort_param *, QEP_TAB *, Filesort_info *, IO_CACHE *, IO_CACHE *, Bounded_queue::Mem_compare> *, ha_rows *) (param=0x7ffff01154c0, qep_tab=0x7fff309268e8, fs_info=0x7ffff0115550, chunk_file=0x7ffff0115200, tempfile=0x7ffff0115360, pq=0x7ffff0115650, 
    found_rows=0x7ffff0115898) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:1013#5  0x0000000000f51165 in filesort (thd=0x7fff30000bc0, filesort=0x7fff30926bd8, sort_positions=false, examined_rows=0x7ffff01158a0, found_rows=0x7ffff0115898, 
    returned_rows=0x7ffff0115890) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/filesort.cc:425

下面是一个我以前参考算法导论第六章堆排序写的一个实现，其中包含了大顶堆和小顶堆，供大家参考：

/*************************************************************************
  > File Name: heapsort.c
  > Author: gaopeng QQ:22389860 all right reserved
  > Mail: gaopp_200217@163.com
  > Created Time: Sun 08 Jan 2017 11:22:14 PM CST
 ************************************************************************/#include#include#define LEFT(i) i<<1#define RIGTH(i) (i<<1)+1//堆排序的性能不及快速排序但是在某些情况下非常有用//数据库的order by limit使用了优先队列，基于堆排序int swap(int k[],int i,int j){        int temp;
        temp = k[i];
        k[i] = k[j];
        k[j] = temp;        return 0;
}int bigheapad(int k[],int s,int n) //s=5,n=10 自上而下的维护{        /*
         * one:
         int i;
         int temp = k[s]; //temp=9=k[4] 父节点值保存到temp
         for(i=2*s;i<=n;i=i*2)// i=8
         {
         if(i=k[i])
         {
         break;
         }
         k[s] = k[i];
         s = i;
         }
         k[s] = temp;
         */
        // two: 参考算法导论P155页,整个方法更容易理解其原理，调整使用逐层下降的方法进行调整
        int l; //s 左节点编号
        int r; //s 右节点编号
        int largest; 
        l=LEFT(s); //左节点编号 10
        r=RIGTH(s);//右节点编号 11
        if(s<=n/2) // n/2为最小节点编号的父亲节点 如果s大于这个值说明这个节点不会有任何子节点不需要进行调整 ！！,这是整个算法的核心中的核心。搞了我老半天
        {                if (l<=n && k[l] > k[s])
                {
                        largest = l; //10
                }                else
                {
                        largest = s;
                }                if(r<=n && k[r] > k[largest]) //11<=10 不成立直接不运行
                {
                        largest = r;
                }                if(largest != s) //如果较大的数字在孩子节点则交换父节点和孩子节点的值，否则不动
                {
                        swap(k,largest,s); //这里做孩子节点和父节点的交换
                        bigheapad(k,largest,n); //这里做递归下层操作，需要做到本次操作不会破坏堆的特性
                }
        }return 0;
}int bigheapbulid(int k[],int n) // bigheapbulid(a,10);{        int i;        for(i=n/2;i>0;i--)//采用自底向上的方法构建 算法导论P156 EXP 1:i= n/2 p:4 l:8 r:9 2: i = p:3 l:6 r:7  n/2刚好是最后一个节点的父亲节点所以自下而上
        { //eg 10  i=5 4 3 2 1
                bigheapad(k,i,n);  //i=5 n=10 
        }return 0;
}int bigheapsort(int k[],int n) //sort的过程就是将最大元素放到最后，然后逐层下降的方法进行调整{        int i;        for(i=n;i>1;i--)
        {
                swap(k,1,i); // 这里k[1] 就是最大值了，我们将他交换到最后面
                bigheapad(k,1,i-1);//重新构建大顶堆
        }return 0;
}int biglimitn(int k[],int n,int limitn)//limit 也是我关心的 这里明显可以看到他的优势实际它不需要对整个数组排序，你要多少我排多少给你就好，也是最大元素放到最后，然后逐层下降的方法进行调整的原理{        int i;        for(i=n;i>n-limitn;i--)
        {
                swap(k,1,i);
                bigheapad(k,1,i-1);
        }return 0;
}int smallheapad(int k[],int s,int n) //s=4,n=9{        int l; //s 左节点编号
        int r; //s 右节点编号
        int smallest; 
        l=LEFT(s); //左节点编号
        r=RIGTH(s);//右节点编号
        if(s<=n/2) // n/2为最小节点编号的父亲节点 如果s大于这个值说明这个节点不会有任何子节点不需要进行调整 ！！
        {                if (l<=n && k[l] < k[s])
                {
                        smallest = l;
                }                else
                {
                        smallest = s;
                }                if(r<=n && k[r] < k[smallest])
                {
                        smallest = r;
                }                if(smallest != s)
                {
                        swap(k,smallest,s);
                        smallheapad(k,smallest,n); //对数据调整后可能的子节点树继续进行调整直到达到递归退出条件
                }
        } 
return 0;
}int smallheapbulid(int k[],int n){        int i;        for(i=n/2;i>0;i--)
        {
                smallheapad(k,i,n); 
        }return 0;
}int smallheapsort(int k[],int n) {        int i;        for(i=n;i>1;i--)
        {
                swap(k,1,i);
                smallheapad(k,1,i-1);
        }return 0;
}int smalllimitn(int k[],int n,int limitn){        int i;        for(i=n;i>n-limitn;i--)
        {
                swap(k,1,i);
                smallheapad(k,1,i-1);
        }return 0;
}int main(){        int i,a[11]={0,999,3,2,9,34,5,102,90,2222,1}; //测试数据 a[0]不使用
        int b[11]={0,999,3,2,9,999,888888,102,90,2222,111};//测试数据 b[0]不使用
        bigheapbulid(a,10);
        biglimitn(a,10,3); 
        printf("大顶堆:\n");        printf("order by desc a array limit 3 result:");        for(i=10;i>10-3;i--)
        {                printf("%d ",a[i]);
        }        printf("\n");
        bigheapbulid(b,10);        printf("max values b array reulst:");        printf("%d \n",b[1]);
        smallheapbulid(a,10);
        smalllimitn(a,10,3);        printf("小顶堆:\n");        printf("order by asc a array limit 3 result:");        for(i=10;i>10-3;i--)
        {                printf("%d ",a[i]);
        }        printf("\n");
        smallheapbulid(b,10);        printf("min values b array reulst:");        printf("%d \n",b[1]);return 0;
}

到此，关于“MySQL中关于排序order by limit值不稳定分析”的学习就结束了，希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习，快去试试吧！若想继续学习更多相关知识，请继续关注创新互联网站，小编会继续努力为大家带来更多实用的文章！


网站栏目：MySQL中关于排序orderbylimit值不稳定分析
分享URL：http://cdkjz.cn/article/pjiici.html
返回首页 了解更多建站资讯

相关资讯

多年建站经验

多一份参考，总有益处

联系快上网，免费获得专属《策划方案》及报价

咨询相关问题或预约面谈，可以通过以下方式与我们联系

大客户专线   成都：13518219792   座机：028-86922220

在线咨询 提交需求
友情链接 交换友情链接
崇州做网站高防服务器租用重庆托管服务器蓬溪网站建设成都400电话办理光华村机房软文营销vi形象设计添翼二手车鉴定评估网站推广

成都网站建设公司地址：成都市青羊区太升南路288号锦天国际A座10层 建设咨询028-86922220

成都快上网科技有限公司-四川网站建设设计公司 | 蜀ICP备19037934号 Copyright 2020,ALL Rights Reserved cdkjz.cn | 成都网站建设 | © Copyright 2020版权所有.

专家团队为您提供成都网站建设,成都网站设计,成都品牌网站设计,成都营销型网站制作等服务,成都建网站就找快上网！ | 成都网站建设哪家好？ | 网站建设地图