数据结构与算法之美学习笔记：第十四讲
一、课前问题
几乎所有的编程语言都会提供排序函数，比如C语言中qsort()，C++ STL中的sort()、stable_sort()，还有Java语言中的Collections.sort()。
在平时的开发中，我们也都是直接使用这些现成的函数来实现业务逻辑中的排序功能。那你知道这些排序函数是如何实现的吗？底层都利用了哪种排序算法呢？
基于这些问题，今天我们就来看排序这部分的最后一块内容：如何实现一个通用的、高性能的排序函数？
二、如何选择合适的排序算法
如果要实现一个通用的、高效率的排序函数，我们应该选择哪种排序算法？我们先回顾一下前面讲过的一种排序算法。
我们前面讲过，线性排序算法的时间复杂度比较低，适用场景比较特殊。所以如果要写一个通用的排序函数，不能选择线性排序算法。
- 如果对小规模数据进行排序，可以选择时间复杂度是O(n )的算法；
- 如果对大规模数据进⾏排序，时间复杂度是O(nlogn)的算法更加高效。
- 所以，为了兼顾任意规模数据的排序，一般都会首选时间复杂度是O(nlogn)的排序算法来实现排序函数。
时间复杂度是O(nlogn)的排序算法不止一个，我们已经讲过的有归并排序、快速排序，后面讲堆的时候我们还会讲到堆排序。堆排序和快速排序都有比较多的应用，比如Java语言采用堆排序实现排序函数，C语言使用快速排序实现排序函数。
不知道你有没有发现，使用归并排序的情况其实并不多。我们知道，快排在最坏情况下的时间复杂度是O(n )，用归并排序可以做到平均情况、最坏情况下的时间复杂度都是O(nlogn)，
从这点上看起来很诱人，那为什么它还是没能得到“宠信”呢？
还记得我们上一节讲的归并排序的空间复杂度吗？归并排序并不是原地排序算法，空间复杂度是O(n)。所以，粗略点、夸张点讲，如果要排序100MB的数据，除了数据本身占用的内存之外，
排序算法还要额外再占用00MB的内存空间，空间耗费就翻倍了。
前面我们讲到，快速排序比较适合来实现排序函数，但是，我们也知道，快速排序在最坏情况下的时间复杂度是O(n )，如何来解决这个“复杂度恶化”的问题呢？
三、如何优化快速排序
我们先来看下，为什么最坏情况下快速排序的时间复杂度是O(n )呢？我们前面讲过，如果数据原来就是有序的或者接近有序的，每次分区点都选择最后一个数据，那快速排序算法就会变得非常糟糕，
时间复杂度就会退化为O(n )。实际上，这种O(n )时间复杂度出现的主要原因还是因为我们分区点选的不够合理。
那什么样的分区点是好的分区点呢？或者说如何来选择分区点呢？
最理想的分区点是：被分区点分开的两个分区中，数据的数量差不多。
- 如果很粗暴地直接选择第一个或者最后一个数据作为分区点，不考虑数据的特点，肯定会出现之前讲的那样，在某些情况下，
- 排序的最坏情况时间复杂度是O(n )。为了提高排序算法的性能，我们也要尽可能地让每次分区都比较平均。
我这里介绍两个比较常用、比较简单的分区算法，你可以直观地感受一下。
1、三数取中法
我们从区间的头、尾、中间，分别取出一个数，然后对比大小，取这3个数的中间值作为分区点。这样每间隔某个固定的长度，取数据出来比较，将中间值作为分区点的分区算法，
肯定要比单纯取某一个数据更好。但是，如果要排序的数组比较大，那“三数取中”可能就不够了，可能要“五数取中”或者“十数取中”。
2、随机法
随机法就是每次从要排序的区间中，随机选择一个元素作为分区点。这种方法并不能保证每次分区点都选的比较好，但是从概率的角度来看，也不大可能会出现每次分区点都选的很差的情况，
所以平均情况下，这样选的分区点是比较好的。时间复杂度退化为最糟糕的O(n )的情况，出现的可能性不大。
好了，我这里也只是抛砖引玉，如果想了解更多寻找分区点的方法，你可以自己课下深如去学习一下。
我们知道，快速排序是用递归来实现的。我们在递归那一节讲过，递归要警惕堆栈溢出。为了避免快速排序立，递归过深而堆栈过小，导致堆栈溢出，
我们有两种解决办法：
- 第一种是限制递归深度。异旦递归过深，超过了我们事先设定的阈值，就停止递归。
- 第二种是通过在堆上模拟实现一个函数调用栈，手动模拟递归压栈、出栈的过程，这样就没有了系统栈大小的限制
四、举例分析排序函数
为了让你对如何实现一个排序函数有一个更直观的感受，我拿Glibc中的qsort()函数举例说明一下。虽说qsort()从名字上看，很像是基于快速排序算法实现的，实际上它并不仅仅用了快排这一种算法。
1、用空间换时间的技巧
如果你去看源码，你就会发现：
- qsort()会优先使用归并排序来排序输入数据，因为归并排序的空间复杂度是O(n)，
- 所以对于小数据量的排序，比如1KB、2KB等，归并排序额外需要1KB、2KB的内存空间，这个问题不大。现在计算机的内存都挺大的，
- 我们很多时候追求的是速度。还记得我们前面讲过的用空间换时间的技巧吗？这就是一个典型的应用。
但如果数据量太大，就跟我们前面提到的，排序100MB的数据，这个时候我们再用归并排序就不合适了。所以，要排序的数据量比较大的时候，qsort()会改为会快速排序算法来排序。
那qsort()是如何选择快速排序算法的分区点的呢？
- 如果去看源码，你就会发现，qsort()选择分区点的的法就是“三数取中法”。是不是也并不复杂？
- 还有我们前面提到的递归太深会导致堆栈溢出的问题，
qsort()是通过自己实现一个堆上的栈，手动模拟递归来解决的。我们之前在讲递归那一节也讲过，不知道你还有没有印象？
- 实际上，qsort()并不仅仅用到了归并排序和快速排序，
- 它还用到了插入排序。在快速排序的过程中，当要排序的区间中，元素的个数小于等于4时，
- qsort()就退化为插入排序，不再继续用递归来做快速排序，
- 因为我们前面也讲过，在小规模数据面前，O(n )时间复杂度的算法并不一定比O(nlogn)的算法执行时间长。我们现在就来分析下这个说法。
我们在讲复杂度分析的时候讲过，算法的性能可以通过时间复杂度来分析，但是，这种复杂度分析是比较偏理论的，如果我们深究的话，实际上时间复杂度并不等于代码实际的运行时间。
- 时间复杂度代表的是一个增长趋势，如果画成增长曲线图，你会发现O(n )比O(nlogn)要陡峭，也就是说增长趋势要更猛一些。
- 但是，我们前面讲过，在大O复杂度表示法中，我们会省略低阶、系数和常数，也就是说，O(nlogn)在没有省略低阶、系数、常数之前可能是O(knlogn + c)，
- 而且k和c有可能还是一个比较大的数。
假设k=1000，c=200，当我们对小规模数据（比如n=100）排序时，n 的值实际上比knlogn+c还要小。
knlogn+c = 1000 * 100 * log100 + 200 远大于10000 n^2 = 100*100 = 10000
所以，对于小规模数据的排序，O(n )的排序算法并不一定比O(nlogn)排序算法执行的时间长。对于小数据量的排序，我们选择比较简单、不需要递归的插入排序算法。
还记得我们之前讲到的哨兵来简化代码，提高执行效率吗？在qsort()插入排序的算法实现中，也利用了这种编程技巧。虽然哨兵可能只是少做一次判断，但是毕竟排序函数是非常常用、
非常基础的函数，性能的优化要做到极致。
好了，C语言的qsort()我已经分析完了，你有没有觉得其实也不是很难？基本上都是用了我们前几讲到的知识点，有了前面的知识积累，看一些底层的类库的时候是不是也更容易了呢？
五、内容小结
今天我带你分析了一下如何来实现一个工业级的通用的、高效的排序函数，内容比较偏实战，而且贯穿了一些前面几节的内容，你要多看几遍。我们大部分排序函数都是采用O(nlogn)排序算法来实现，但是为了尽可能地提工性能，会做很多优化。
我还着重讲了快速排序的一些优化策略，比如合理选择分区点、避免递归太深等等。最后，我还带你分析了一个C语言中qsort()的底层实现原理，希望你对此能有⼀个更加直观的感受。
六、课后思考
在今天的内容中，我分析了C语⾔的中的qsort()的底层排序算法，你能否分析一下你所熟悉的语言中的排序函数都是用什么排序算法实现的呢？都有哪些优化技巧？
Python语言中提供的排序算法
内置数据类型list的方法sort()， sorted排序：Timsort算法。
从时间复杂度来看，Timsort是威武的。
从空间复杂度来讲，需要的开销在数量大的时候会增大。
这个的底层实现就是归并排序，只是使用了Python无法编写的底层实现，从而避免了Python本身附加的大量开销,速度比我们自己写的归并排序要快很多（10~20倍）,
所以说我们一般排序都尽量使用sorted和sort
