排序：如何用快排思想在O(n)内查找第K大元素？

文章来源于极客时间前google工程师−王争专栏。

冒泡排序、插入排序、选择排序三种排序算法，时间复杂度都是O(n^2)，比较高，适合小规模数据的排序。

归并排序和快速排序两种时间复杂度O(nlogn)的排序算法，适合大规模的数据排序，比上述三种更常用。

归并排序和快速排序都用到了分治思想，非常巧妙。我们可以借助这个思想，解决排序问题：如何在O(n)的时间复杂度内查找一个无序数组中的第K大元素？

归并排序原理

归并排序核心思想：如果要排序一个数组，先把数组从中间分为前后两部分，然后对前后两部分分别排序，再将排好序的两部分合并在一起，这样整个数组就有序了。

归并排序使用的就是分治思想。分而治之，大问题分解成小问题来解决。分治思想与递归思想很像。分治算法一般都是用递归来实现的。分治是一种解决问题的处理思想，递归是一种编程技巧。

如何用递归代码来实现归并排序？

归并排序递推公式

递推公式：
merge_sort(p…r) = merge(merge_sort(p…q), merge_sort(q+1…r))

终止条件：
p >= r 不用再继续分解
1
2
3
4
5

伪代码实现如下：

// 归并排序算法, A 是数组，n 表示数组大小
merge_sort(A, n) {
  merge_sort_c(A, 0, n-1)
}

// 递归调用函数
merge_sort_c(A, p, r) {
  // 递归终止条件
  if p >= r  then return

  // 取 p 到 r 之间的中间位置 q
  q = (p+r) / 2
  // 分治递归
  merge_sort_c(A, p, q)
  merge_sort_c(A, q+1, r)
  // 将 A[p...q] 和 A[q+1...r] 合并为 A[p...r]
  merge(A[p...r], A[p...q], A[q+1...r])
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

merge函数实现思路:申请临时数组tmp，大小与A[P…r]相同。用两个游标i和j，比较移动。最后tmp拷贝到原数组。如图所示：

代码实现如下：

merge(A[p...r], A[p...q], A[q+1...r]) {
  var i := p，j := q+1，k := 0 // 初始化变量 i, j, k
  var tmp := new array[0...r-p] // 申请一个大小跟 A[p...r] 一样的临时数组
  while i<=q AND j<=r do {
    if A[i] <= A[j] {
      tmp[k++] = A[i++] // i++ 等于 i:=i+1
    } else {
      tmp[k++] = A[j++]
    }
  }
  
  // 判断哪个子数组中有剩余的数据
  var start := i，end := q
  if j<=r then start := j, end:=r
  
  // 将剩余的数据拷贝到临时数组 tmp
  while start <= end do {
    tmp[k++] = A[start++]
  }
  
  // 将 tmp 中的数组拷贝回 A[p...r]
  for i:=0 to r-p do {
    A[p+i] = tmp[i]
  }
}

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

思考：merge()合并函数借助哨兵，代码会简洁很多。

归并排序性能分析

第一，归并排序是稳定的排序算法吗？

合并过程关键看merge函数，把之前数组的元素先放入tmp数组，可以保证值相同的元素前后顺序不变。所以归并排序是一个稳定的排序算法。

第二，归并排序的时间复杂度是多少？

可以理解为如何分析递归代码的时间复杂度

T(a) = T(b) + T(c) + K

1
2

求解问题a时间T(a)，求解问题b，T(b)。求解问题c，T©，K等于将两个子问题b、c的结果合并成问题a的结果所消耗的时间。

从刚刚的分析，我们可以得到一个重要的结论：不仅递归求解的问题可以写成递推公式，递归代码的时间复杂度也可以写成递推公式。

假设对n个元素进行归并排序需要的时间是T(n)，分解成两个子数组排序的时间都是T(n/2)。merge()函数合并两个有序子数组的时间复杂度为O(n)，所以计算归并排序的时间复杂度就是：

T(1) = C；   n=1 时，只需要常量级的执行时间，所以表示为 C。
T(n) = 2*T(n/2) + n； n>1

1
2
3

分解推导计算过程：

T(n) = 2*T(n/2) + n
     = 2*(2*T(n/4) + n/2) + n = 4*T(n/4) + 2*n
     = 4*(2*T(n/8) + n/4) + 2*n = 8*T(n/8) + 3*n
     = 8*(2*T(n/16) + n/8) + 3*n = 16*T(n/16) + 4*n
     ......
     = 2^k * T(n/2^k) + k * n
     ......

1
2
3
4
5
6
7
8

通过这样一步一步分解推导，我们可以得到 T(n) = 2^kT(n/2k)+kn。当 T(n/2^k)=T(1) 时，也就是 n/2^k=1，我们得到 k=log2n 。我们将k 值代入上面的公式，得到 T(n)=Cn+nlog2n 。如果我们用大 O 标记法来表示的话，T(n) 就等于 O(nlogn)。所以归并排序的时间复杂度是 O(nlogn)。

归并排序时间复杂度非常稳定，不管最好、最坏、还是平均，时间复杂度都是O(nlogn)。

归并排序的空间复杂度

归并排序没有像快排那样应用广泛，因为它有一个致命的“弱点”，归并排序不是原地排序算法。

合并过程中需要借助额外的存储空间。

借助递归复杂度分析方法，空间复杂度是nlogn，但是空间复杂度不能像时间复杂度那样累加。合并完成之后，临时开辟的内存空间就被释放掉了。任意时刻，CPU只会有一个函数在执行，也就只会有一个临时内存空间在使用。所以空间复杂度为n。

快速排序原理

快排利用的也是分治思想，但是与归并思路完全不一样。

思想：如果要排序数组中下标从p到r之间的一组数据，我们选择p到r之间的任意一个数据作为povot（分区点）。

根据分治、递归的处理思想，递归公式如下：

递推公式：
quick_sort(p…r) = quick_sort(p…q-1) + quick_sort(q+1, r)

终止条件：
p >= r

1
2
3
4
5
6

公式转化为代码，伪代码如下：

// 快速排序，A 是数组，n 表示数组的大小
quick_sort(A, n) {
  quick_sort_c(A, 0, n-1)
}
// 快速排序递归函数，p,r 为下标
quick_sort_c(A, p, r) {
  if p >= r then return
  
  q = partition(A, p, r) // 获取分区点
  quick_sort_c(A, p, q-1)
  quick_sort_c(A, q+1, r)
}

1
2
3
4
5
6
7
8
9
10
11
12
13

归并有merge()函数，这里有partition()分区函数。随机选择一个元素作为pivot（一般情况下，可以选择p到r区间的最后一个元素），然后对A[p…r]分区，函数返回pivot的下标。

不考虑空间消耗，可以申请两个临时数组

这样就不是原地排序算法了，所以我们要原地完成分区操作。代码如下：

partition(A, p, r) {
  pivot := A[r]
  i := p
  for j := p to r-1 do {
    if A[j] < pivot {
      swap A[i] with A[j]
      i := i+1
    }
  }
  swap A[i] with A[r]
  return i


1
2
3
4
5
6
7
8
9
10
11
12
13

public int partition(int[] A,int p,int r){
    //取最后一个元素作为中间点
    int pivot = A[r];
    int i = p;
    //遍历右区间
    for(int j = p;j

T(1) = C；   n=1 时，只需要常量级的执行时间，所以表示为 C。
T(n) = 2*T(n/2) + n； n>1

1
2
3