20200913 第 7 章 排序算法
第 7 章 排序算法
7.1 排序算法的介绍
排序也称排序算法(Sort Algorithm)， 排序是将一组数据， 依指定的顺序进行排列的过程。
7.2 排序的分类：
-
内部排序:
指将需要处理的所有数据都加载到内部存储器(内存)中进行排序。
-
外部排序法：
数据量过大， 无法全部加载到内存中， 需要借助外部存储(文件等)进行排序。
常见的排序算法分类
7.3 算法的时间复杂度
7.3.1度量一个程序(算法)执行时间的两种方法
-
事后统计的方法
这种方法可行, 但是有两个问题： 一是要想对设计的算法的运行性能进行评测， 需要实际运行该程序； 二是所得时间的统计量依赖于计算机的硬件、 软件等环境因素, 这种方式， 要在同一台计算机的相同状态下运行， 才能比较那个算法速度更快。
-
事前估算的方法
通过分析某个算法的时间复杂度来判断哪个算法更优.
7.3.3时间复杂度
- 一般情况下， 算法中的基本操作语句的重复执行次数是问题规模 n 的某个函数， 用 T(n)表示， 若有某个辅助函数 f(n)， 使得当 n 趋近于无穷大时， T(n) / f(n) 的极限值为不等于零的常数， 则称 f(n)是 T(n)的同数量级函数。记作
T(n)=Ｏ(f(n))， 称Ｏ(f(n)) 为算法的渐进时间复杂度， 简称时间复杂度。 - T(n) 不同， 但时间复杂度可能相同。 如： T(n)=n²+7n+6 与 T(n)=3n²+2n+2 它们的 T(n) 不同， 但时间复杂度相同， 都为 O(n²)。
- 计算时间复杂度的方法：
- 用常数 1 代替运行时间中的所有加法常数 T(n)=n²+7n+6 => T(n)=n²+7n+1
- 修改后的运行次数函数中， 只保留最高阶项 T(n)=n²+7n+1 => T(n) = n²
- 去除最高阶项的系数 T(n) = n² => T(n) = n² => O(n²)
7.3.4常见的时间复杂度
- 常数阶 O(1)
- 对数阶 O(log2n)
- 线性阶 O(n)
- 线性对数阶 O(nlog2n)
- 平方阶 O(n^2)
- 立方阶 O(n^3)
- k 次方阶 O(n^k)
- 指数阶 O(2^n)
7.3.5平均时间复杂度和最坏时间复杂度
- 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下， 该算法的运行时间。
- 最坏情况下的时间复杂度称最坏时间复杂度。 一般讨论的时间复杂度均是最坏情况下的时间复杂度。 这样做的原因是： 最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限， 这就保证了算法的运行时间不会
比最坏情况更长。 - 平均时间复杂度和最坏时间复杂度是否一致， 和算法有关(如图:)。
7.4 算法的空间复杂度简介
- 类似于时间复杂度的讨论， 一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间， 它也是问题规模 n 的函数。
- 空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。 有的算法需要占用的临时工作单元数与解决问题的规模 n 有关， 它随着 n 的增大而增大， 当 n 较大时， 将占用较多的存储单元， 例如快速排序和归并排序算法, 基数排序就属于这种情况
- 在做算法分析时， 主要讨论的是时间复杂度。 从用户使用体验上看， 更看重的程序执行的速度。 一些缓存产品 (redis, memcache) 和算法(基数排序)本质就是用空间换时间.
7.5 冒泡排序
7.5.1基本介绍
冒泡排序（Bubble Sorting） 的基本思想是： 通过对待排序序列从前向后（从下标较小的元素开始） ,依次比较相邻元素的值， 若发现逆序则交换， 使值较大的元素逐渐从前移向后部， 就象水底下的气泡一样逐渐向上冒。
优化：因为排序的过程中， 各元素不断接近自己的位置， 如果一趟比较下来没有进行过交换， 就说明序列有序， 因此要在排序过程中设置一个标志 flag 判断元素是否进行过交换。 从而减少不必要的比较。 (这里说的优化， 可以在冒泡排序写好后， 再进行)
对冒泡排序的理解：
以 n 个值的数组从小到大排序为例，冒泡排序就是从前向后每两个进行比较，如果逆序，则进行位置交换。其结果就是第一次从前到后全部比较后，最大值到达最后的位置；第二次完整比较后，第二大值到达倒数第二的位置，依次类推，完整比较的次数为 n-1 次。
public static void bubbleSort(int[] arr) {
int temp;
for (int i = 0; i < arr.length - 1; i++) {
for (int j = 0; j < arr.length - 1; j++) {
if (arr[j] > arr[j + 1]) {
temp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = temp;
}
}
}
}
优化一：
第一次比较需要进行从前到后的完整比较，第二次只需要比较前 n-1 个数字，第三次只需要比较前 n-2 个，依次类推
public static void bubbleSort(int[] arr) {
int temp;
for (int i = 0; i < arr.length - 1; i++) {
for (int j = 0; j < arr.length - 1 -i; j++) {
if (arr[j] > arr[j + 1]) {
temp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = temp;
}
}
}
}
优化二：
当一次从前到后比较完成后，发现没有进行一次交换时，此时数组已经完全有序，可以提前结束
public static void bubbleSort(int[] arr) {
boolean flag = true;
int temp;
for (int i = 0; i < arr.length - 1; i++) {
for (int j = 0; j < arr.length - 1 - i; j++) {
if (arr[j] > arr[j + 1]) {
flag = false;
temp = arr[j];
arr[j] = arr[j + 1];
arr[j + 1] = temp;
}
}
if (flag) {
break;
} else {
flag = true;
}
}
}
测试冒泡排序
随机 80000 个数字进行排序，数字范围在 [0, 800000)
未优化：15677 ms
优化一：12984 ms
优化二：12423 ms
7.6 选择排序
7.6.1 基本介绍
选择式排序也属于内部排序法， 是从欲排序的数据中， 按指定的规则选出某一元素， 再依规定交换位置后达到排序的目的。
7.6.2 选择排序思想
选择排序（select sorting） 也是一种简单的排序方法。 它的基本思想是： 第一次从 arr[0]~arr[n-1]中选取最小值，与 arr[0] 交换， 第二次从 arr[1]~arr[n-1]中选取最小值， 与 arr[1]交换， 第三次从 arr[2]~arr[n-1]中选取最小值， 与 arr[2] 交换， …， 第 i 次从 arr[i-1]~arr[n-1]中选取最小值， 与 arr[i-1]交换， …, 第 n-1 次从 arr[n-2]~arr[n-1]中选取最小值，与 arr[n-2]交换， 总共通过 n-1 次， 得到一个按排序码从小到大排列的有序序列。
7.6.3 选择排序思路分析图
7.6.4 代码实现
private static void selectSort(int[] arr) {
for (int i = 0; i < arr.length - 1; i++) {
int min = arr[i];
int minIndex = i;
for (int j = i + 1; j < arr.length; j++) {
if (min > arr[j]) {
min = arr[j];
minIndex = j;
}
}
// 如果本来就是最小的，不需要交换
if (minIndex != i) {
// 进行交换
arr[minIndex] = arr[i];
arr[i] = min;
}
}
}
测试：
80000 个随机值的数组排序用时 3141 ms
7.7 插入排序
7.7.1 插入排序法介绍
插入式排序属于内部排序法， 是对于欲排序的元素以插入的方式找寻该元素的适当位置， 以达到排序的目的。
7.7.2 插入排序法思想
插入排序（Insertion Sorting） 的基本思想是： 把 n 个待排序的元素看成为一个有序表和一个无序表， 开始时有序表中只包含一个元素， 无序表中包含有 n-1 个元素， 排序过程中每次从无序表中取出第一个元素， 把它的排序码依次与有序表元素的排序码进行比较， 将它插入到有序表中的适当位置， 使之成为新的有序表。
7.7.3 插入排序思路图
7.7.3 代码实现
private static void insertSort(int[] arr) {
for (int i = 1; i < arr.length; i++) {
// 待插入值
int insertVal = arr[i];
// 表示从哪一位开始向前进行比较
int insertIndex = i - 1;
while (insertIndex >= 0 && insertVal < arr[insertIndex]) {
// 如果待插入值小于比较值，则比较值向后移一位
arr[insertIndex + 1] = arr[insertIndex];
insertIndex--;
}
// 判断是否已在正确的位置上
if (insertIndex + 1 != i) {
// 将待插入值插入数组
arr[insertIndex + 1] = insertVal;
}
// System.out.println("第" + i + "轮排序后，结果为：" + Arrays.toString(arr));
}
}
测试：
80000 个随机值的数组排序用时 716 ms
7.8 希尔排序
7.8.1简单插入排序存在的问题
我们看简单的插入排序可能存在的问题.
数组 arr = {2,3,4,5,6,1} 这时需要插入的数 1(最小), 这样的过程是：
{2,3,4,5,6,6}
{2,3,4,5,5,6}
{2,3,4,4,5,6}
{2,3,3,4,5,6}
{2,2,3,4,5,6}
{1,2,3,4,5,6}
结论: 当需要插入的数是较小的数时， 后移的次数明显增多， 对效率有影响.
7.8.2 希尔排序法介绍
希尔排序是希尔（Donald Shell） 于 1959 年提出的一种排序算法。 希尔排序也是一种插入排序， 它是简单插入排序经过改进之后的一个更高效的版本， 也称为缩小增量排序。
7.8.3 希尔排序法基本思想
希尔排序是把记录按下标的一定增量分组， 对每组使用直接插入排序算法排序； 随着增量逐渐减少， 每组包含的关键词越来越多， 当增量减至 1 时， 整个文件恰被分成一组， 算法便终止
7.8.4 希尔排序法的示意图
7.8.5 希尔排序法代码实现
交换法
private static void shellSort(int[] arr) {
int temp;
int count = 0;
for (int gap = arr.length / 2; gap > 0; gap /= 2) {
for (int i = gap; i < arr.length; i++) {
// 遍历各组中所有的元素(共5组，每组有2个元素), 步长5
for (int j = i - gap; j >= 0; j -= gap) {
if (arr[j] > arr[j + gap]) {
temp = arr[j];
arr[j] = arr[j + gap];
arr[j + gap] = temp;
}
}
}
// System.out.println("第" + (++count) + "轮后，结果为：" + Arrays.toString(arr));
}
}
测试：
80000 个随机值的数组排序用时 6772 ms
移动法
private static void shellSort2(int[] arr) {
// 增量gap, 并逐步的缩小增量
for (int gap = arr.length / 2; gap > 0; gap /= 2) {
// 从第gap个元素，逐个对其所在的组进行直接插入排序
for (int i = gap; i < arr.length; i++) {
int j = i;
int temp = arr[i];
if (temp < arr[j - gap]) {
while (j - gap >= 0 && temp < arr[j - gap]) {
//移动
arr[j] = arr[j - gap];
j -= gap;
}
//当退出while后，就给temp找到插入的位置
arr[j] = temp;
}
}
}
}
测试：
80000 个随机值的数组排序用时 20 ms
7.9 快速排序
7.9.1 快速排序法介绍
快速排序（Quicksort） 是对冒泡排序的一种改进。 基本思想是： 通过一趟排序将要排序的数据分割成独立的两部分， 其中一部分的所有数据都比另外一部分的所有数据都要小， 然后再按此方法对这两部分数据分别进行快速排序， 整个排序过程可以递归进行， 以此达到整个数据变成有序序列
7.9.2 快速排序法示意图
7.9.3 代码实现
public class QuickSort {
public static void main(String[] args) {
int[] arr = new int[]{20, -1, 3, 9, 10};
quickSort(arr, 0, arr.length - 1);
System.out.println(Arrays.toString(arr));
}
private static void quickSort(int[] arr, int left, int right) {
// 定义左右游标
int l = left;
int r = right;
// 中轴值
int pivot = arr[(left + right) / 2];
// System.out.println("排序前：" + Arrays.toString(arr));
// System.out.println("left=" + left + " right=" + right + " 中轴值为：" + pivot);
int temp;
// while 循环的目的是让比 pivot 值小放到左边，比 pivot 值大放到右边
while (l < r) {
// 在中轴左边找到一个大于中轴值的索引
while (arr[l] < pivot) {
l++;
}
// 在中轴右边找到一个小于中轴值的索引
while (arr[r] > pivot) {
r--;
}
// 左右索引相等的情况下，说明都到达中轴，无需继续循环
if (l >= r) {
break;
}
// 左右进行交换
temp = arr[l];
arr[l] = arr[r];
arr[r] = temp;
// 不断向中轴逼近
if (arr[l] == pivot) {
r--;
}
if (arr[r] == pivot) {
l++;
}
}
// System.out.println("while 后：" + Arrays.toString(arr));
// 如果 l == r, 必须l++, r--, 否则为出现栈溢出
// 并不一定每次 while 结束后，都会左右游标重合
if (l == r) {
l++;
r--;
}
//向左递归
if (r > left) {
quickSort(arr, left, r);
}
//向右递归
if (l < right) {
quickSort(arr, l, right);
}
}
}
7.10 归并排序
7.10.1 归并排序介绍
归并排序（MERGE-SORT） 是利用归并的思想实现的排序方法， 该算法采用经典的分治（divide-and-conquer）策略（分治法将问题分(divide)成一些小的问题然后递归求解， 而治(conquer)的阶段则将分的阶段得到的各答案"修补"在一起， 即分而治之)。
7.10.2 归并排序思想示意图 1-基本思想
7.10.3 归并排序思想示意图 2-合并相邻有序子序列
再来看看治阶段， 我们需要将两个已经有序的子序列合并成一个有序序列， 比如上图中的最后一次合并， 要将[4,5,7,8]和[1,2,3,6]两个已经有序的子序列， 合并为最终序列[1,2,3,4,5,6,7,8]， 来看下实现步骤
7.10.4 代码实现
public class MergeSort {
public static void main(String[] args) {
int arr[] = {8, 4, 5, 7, 1, 3, 6, 2};
int temp[] = new int[arr.length]; //归并排序需要一个额外空间
mergeSort(arr, 0, arr.length - 1, temp);
System.out.println("归并排序后=" + Arrays.toString(arr));
}
//分+合方法
public static void mergeSort(int[] arr, int left, int right, int[] temp) {
if (left < right) {
int mid = (left + right) / 2; //中间索引
System.out.println(111);
//向左递归进行分解
mergeSort(arr, left, mid, temp);
System.out.println(222);
//向右递归进行分解
mergeSort(arr, mid + 1, right, temp);
System.out.println(333);
//合并
merge(arr, left, mid, right, temp);
}
}
//合并的方法
/**
* @param arr 排序的原始数组
* @param left 左边有序序列的初始索引
* @param mid 中间索引
* @param right 右边索引
* @param temp 做中转的数组
*/
public static void merge(int[] arr, int left, int mid, int right, int[] temp) {
System.out.println("left=" + left + ",right=" + right);
int i = left; // 初始化i, 左边有序序列的初始索引
int j = mid + 1; //初始化j, 右边有序序列的初始索引
int t = 0; // 指向temp数组的当前索引
//(一)
//先把左右两边(有序)的数据按照规则填充到temp数组
//直到左右两边的有序序列，有一边处理完毕为止
while (i <= mid && j <= right) {//继续
//如果左边的有序序列的当前元素，小于等于右边有序序列的当前元素
//即将左边的当前元素，填充到 temp数组
//然后 t++, i++
if (arr[i] <= arr[j]) {
temp[t] = arr[i];
t += 1;
i += 1;
} else { //反之,将右边有序序列的当前元素，填充到temp数组
temp[t] = arr[j];
t += 1;
j += 1;
}
}
//(二)
//把有剩余数据的一边的数据依次全部填充到temp
while (i <= mid) { //左边的有序序列还有剩余的元素，就全部填充到temp
temp[t] = arr[i];
t += 1;
i += 1;
}
while (j <= right) { //右边的有序序列还有剩余的元素，就全部填充到temp
temp[t] = arr[j];
t += 1;
j += 1;
}
//(三)
//将temp数组的元素拷贝到arr
//注意，并不是每次都拷贝所有
t = 0;
int tempLeft = left; //
//第一次合并 tempLeft = 0 , right = 1 // tempLeft = 2 right = 3 // tL=0 ri=3
//最后一次 tempLeft = 0 right = 7
while (tempLeft <= right) {
arr[tempLeft] = temp[t];
t += 1;
tempLeft += 1;
}
}
}
7.11 基数排序
7.11.1 基数排序(桶排序)介绍:
- 基数排序（radix sort） 属于“分配式排序” （distribution sort） ， 又称“桶子法” （bucket sort） 或 bin sort， 顾
名思义， 它是通过键值的各个位的值， 将要排序的元素分配至某些“桶” 中， 达到排序的作用 - 基数排序法是属于稳定性的排序， 基数排序法的是效率高的稳定性排序法
- 基数排序(Radix Sort)是桶排序的扩展
- 基数排序是 1887 年赫尔曼· 何乐礼发明的。 它是这样实现的： 将整数按位数切割成不同的数字， 然后按每个位数分别比较
7.11.2 基数排序基本思想
将所有待比较数值统一为同样的数位长度， 数位较短的数前面补零。 然后， 从最低位开始， 依次进行一次排序。这样从最低位排序一直到最高位排序完成以后, 数列就变成一个有序序列。
7.11.3 基数排序示例
将数组 {53, 3, 542, 748, 14, 214} 使用基数排序, 进行升序排序。
- 第1轮排序后：542、53、3、14、214、748
- 第2轮排序后：3、14、214、542、748、53
- 第3轮排序后：3、14、53、214、542、748
7.11.4 基数排序代码实现
public class RadixSort {
public static void main(String[] args) {
int arr[] = {53, 3, 542, 748, 14, 214};
radixSort(arr);
System.out.println("基数排序后 " + Arrays.toString(arr));
}
public static void radixSort(int[] arr) {
//根据前面的推导过程，我们可以得到最终的基数排序代码
//1. 得到数组中最大的数的位数
int max = arr[0]; //假设第一数就是最大数
for (int i = 1; i < arr.length; i++) {
if (arr[i] > max) {
max = arr[i];
}
}
//得到最大数是几位数
int maxLength = (max + "").length();
//定义一个二维数组，表示10个桶, 每个桶就是一个一维数组
//说明
//1. 二维数组包含10个一维数组
//2. 为了防止在放入数的时候，数据溢出，则每个一维数组(桶)，大小定为arr.length
//3. 明确，基数排序是使用空间换时间的经典算法
int[][] bucket = new int[10][arr.length];
//为了记录每个桶中，实际存放了多少个数据,我们定义一个一维数组来记录各个桶的每次放入的数据个数
//可以这样理解
//比如：bucketElementCounts[0] , 记录的就是 bucket[0] 桶的放入数据个数
int[] bucketElementCounts = new int[10];
//这里我们使用循环处理
for (int i = 0, n = 1; i < maxLength; i++, n *= 10) {
//(针对每个元素的对应位进行排序处理)， 第一次是个位，第二次是十位，第三次是百位..
for (int j = 0; j < arr.length; j++) {
//取出每个元素的对应位的值
int digitOfElement = arr[j] / n % 10;
//放入到对应的桶中
bucket[digitOfElement][bucketElementCounts[digitOfElement]] = arr[j];
bucketElementCounts[digitOfElement]++;
}
//按照这个桶的顺序(一维数组的下标依次取出数据，放入原来数组)
int index = 0;
//遍历每一桶，并将桶中是数据，放入到原数组
for (int k = 0; k < bucketElementCounts.length; k++) {
//如果桶中，有数据，我们才放入到原数组
if (bucketElementCounts[k] != 0) {
//循环该桶即第k个桶(即第k个一维数组), 放入
for (int l = 0; l < bucketElementCounts[k]; l++) {
//取出元素放入到arr
arr[index++] = bucket[k][l];
}
}
//第i+1轮处理后，需要将每个 bucketElementCounts[k] = 0 ！！！！
bucketElementCounts[k] = 0;
}
//System.out.println("第"+(i+1)+"轮，对个位的排序处理 arr =" + Arrays.toString(arr));
}
}
}
7.11.5 基数排序的说明:
- 基数排序是对传统桶排序的扩展， 速度很快.
- 基数排序是经典的空间换时间的方式， 占用内存很大, 当对海量数据排序时， 容易造成 OutOfMemoryError 。
- 基数排序是稳定的。 [注:假定在待排序的记录序列中， 存在多个具有相同的关键字的记录， 若经过排序， 这些记录的相对次序保持不变， 即在原序列中， r[i]=r[j]， 且 r[i]在 r[j]之前， 而在排序后的序列中， r[i]仍在 r[j]之前，则称这种排序算法是稳定的； 否则称为不稳定的]
- 有负数的数组， 我们不用基数排序来进行排序
7.11.6 拓展
- 桶排序
- 计数排序
7.12 常用排序算法总结和对比
7.12.1 一张排序算法的比较图
7.12.2 相关术语解释：
- 稳定： 如果 a 原本在 b 前面， 而 a=b， 排序之后 a 仍然在 b 的前面；
- 不稳定： 如果 a 原本在 b 的前面， 而 a=b， 排序之后 a 可能会出现在 b 的后面；
- 内排序： 所有排序操作都在内存中完成；
- 外排序： 由于数据太大， 因此把数据放在磁盘中， 而排序通过磁盘和内存的数据传输才能进行；
- 时间复杂度： 一个算法执行所耗费的时间。
- 空间复杂度： 运行完一个程序所需内存的大小。
- n: 数据规模
- k: “桶” 的个数
- In-place: 不占用额外内存
- Out-place: 占用额外内存
