数据结构和算法
原文：http://www.cnblogs.com/people/category/479839.html
综述 ：
1 数据结构和算法起到的作用
数据结构是对计算机内存中(有时在磁盘中)的数据的一种安排。数据结构是存放数据物理结构在逻辑上的形式体现，常见的数据结构有数组、链表、栈、二叉树、哈希表等等。算法对这些结构中的数据进行各种处理，例如，查找一条特殊的数据项或对数据进行排序。数据结构和处理技术(即算法)可以解决如下问题
1.1 现实世界数据的存储
现实世界中有很多信息，有些信息是强相关的，比如一个人的身高、体重、年龄等等，这些信息不是随便放的，就像你不会把厨房里的锅放在卧室里面，铲子放到卫生间里面，我们需要一个统一地方存放这些信息，在物理上就是放在存储空间里面，比如硬盘或内存，在逻辑形式上就是上面提到的各种数据结构，比如数组、链表等等。
1.2 现实世界的建模
一些数据具有很强的实用性，就是与相应的事件对应起来，比如队列可以模拟顾客在银行中排队等待。
2 数据结构的概述
数据结构与算法就是讨论这些数据结构的实现以及在数据结构上进行一些操作。
下面列出了一些数据结构的描述
数据结构 优点 缺点
数组 插入块，如果知道下标，可以非常快地存取 查找慢，删除慢，大小固定
有序数组 比无序的数组查找快 删除和插入慢，大小固定
栈 提供后进先出方式的存取 存取其他项很慢
队列 提供先进先出方式的存取 存取其他项很慢
链表 插入快，删除快 查找慢
二叉树 查找、插入、删除都快(如果树保持平衡) 删除算法复杂
红-黑树 查找、插入、删除都快，树总是平衡的 算法复杂
2-3-4树 查找、插入、删除都快，树总是平衡的，树对磁盘存储有用 算法复杂
哈希表 如果关键字已知则存取极快，插入块 删除慢，如果不知道关键字则存取很慢，对存储空间使用不充分
堆 插入、删除快，对最大数据项的存取很快 对其他数据项存取慢
图 对现实世界建模 有些算法慢且复杂
数据结构除了数组之外都可以被认为是抽象数据结构(ADT)，主要是数据的存储物理结构与逻辑结构并非拓扑结构上一致。
3 算法概述
许多将要讨论到的算法直接适用于某些特殊的数据结构，对大多数数据结构来说，都需要实现以下功能
1.插入一条新的数据项
2.查找某一特定的数据项
3.删除某一特定的数据项
4.给数据结构里的数据排序
5.其他
4 过程性语言的问题
面向对象编程语言的产生是由于发现过程性语言在处理大小的复杂问题时有些力不从心。具体是哪些问题呢？
有两类问题：一是程序与现实世界缺乏对应关系，二是程序内部的结果出现了问题。
对现实世界建模的无能为力
使用过程语言对现实世界问题进行抽象即概念化十分困难：方法执行任务，而数据存储信息，但是现实世界中的事物是对二者同时进行操作。
粗糙的组织结构
解决程序的内部组织结构是一个更微妙而且事关重大的问题。面向过程的程序被划分为一个个方法，这种基于方法组织形式的一个巨大问题是它仅仅考虑了方法，而没有重视数据。当不得不面对数据时，它没有太多的选择。简而言之，数据可以是一个特定的方法的局部量，也可以是所有方法都可以存钱的全局量，就是无法规定一个变量只允许某些方法存取而不允许另一些方法存取。
5 Java数据结构的类库
Java.util包中含有诸如向量(一个可扩充的数组)、栈、库和哈希表等类型的数据结构。这些数据结构已经被实现并提供了相关操作方法。但是我们仍然需要学习别的数据结构，提供的数据结构是不够的。
数据结构和算法的选择
通用数据结构：数组、链表、树、哈希表
专用数据结构：栈、队列、优先级队列
排序：插入排序、希尔排序、快速排序、归并排序、堆排序
图：邻接矩阵、邻接表
外部存储：顺序存储、索引文件、B-树、哈希方法
1 通用数据结构
若想存储真实世界中的类似人事记录、存货目录、合同表或销售业绩等数据，则只需要一般用途的数据结构。在本书中属于这种类型的结构有数组、链表、树和哈希表。他们被称之为通用的数据结构是因为它们通过关键字的值来存储并查找数据，这一点在通用数据库程序中常见到(栈等特殊结构正好相反，它们只允许存取一定的数据项)。
1.1 速度与算法
通用数据结构可以完全按照速度的快慢来分类:数组和链表是最慢的，树相对较快，哈希表是最快的。
但是不要有这样的结论:使用最快的结构永远是最好的方案。这些最快的结构也有缺陷。首先，它们的程序在不同程度上比数组和链表的复杂；其次，哈希表要求预先知道要存储多少数据，数据对存储空间的利用率也不是非常高。普通的二叉树对顺序的数据来说，会变成缓慢的O(N)级操作，而平衡树虽然避免了上述的问题，但是它的程序编制起来却比较困难。
处理器速度因素
快速的结构都有缺陷，而计算机的另一个发展因素却能使低速的结构更加具有吸引力。新计算机的CPU和存取速度每一年都有提升。Moore定律声明了CPU的速度每18个月翻一倍。这造成了早期计算机和现代应用的计算机在性能方面的惊人差异，而且目前没有任何理由能忍我这个增长速度会减慢。
几年前一台电脑可以在一个可接受的时间内处理100个对象的数组，而现在的计算机则快多了，因此可以在同样的时间里处理含有10000个对象的数组。
请从简单数据结构入手考虑:除非它们明显是太慢了，否则就用数组或链表编写程序，看看结构究竟怎样。如果能在一个可接受的时间内运行完毕，那么就采用它，不必再找别的。没有人会留意用的是数组或别的什么结构，为什么一定要拼命地写出一个平衡树的算法?甚至必须面对成千上万、百万的数据项进行操作时，不妨先看一看数组或链表处理表现的情况，这也还是值得的。只有在实验中发现这些简单结构的性能太慢时，才回过头来采用哪些更加复杂的数据结构。
Java引用的优点
在操作对象的速度上，Java与其他语言相比有极大的优势，那是由于对于大多数数据结构来说，Java数据结构只存储引用而不是实际的对象，因此相对于那些在数据结构中实际为对象开辟了空间的语言来说，大多数Java算法的执行速度更快。在分析算法时，不是从对象的真实存储空间出发，因而移动对象的速度也不依赖于对象的大小，而只是考虑对象引用的移动，因此对象本身的大小就不重要了。
数组
当存储和操作数据时，在大多数情况下数组是首先应该考虑的结构，数组在下列情况下很有用:
数据量较小
数据量的大小事先可预测
如果存储空间足够大的话，可以放松第二条，创建一个足够大的数组来应付所有可以预见的数据输入。
如果插入速度很重要的话，使用无序数组，如果查找速度很重要的话，使用有序数组，并用二分查找。数组元素的删除总是很慢，这是由于未来填充空出来的单元，平均半数以上的数组元素要被移动，在有序数组中的遍历是很快的，而在无序数组不支持这种功能。向量类是一种当数据太满时可以自己扩展空间的数组，向量可以应用于数据量不可预知的情况下，然而，在向量扩充时，要将旧的数据拷入一个新的空间中，这一过程会造成程序明显的周期性暂停。
链表
如果需要存储的数据量不能预知或者需要频繁地插入删除数据元素时，考虑使用链表。当有新的元素加入时，链表就开辟新的所需要的空间，所以它甚至可以占满全部可用的内存；在删除过程中，没必要像数组那样填补"空白"
在一个无序的链表中，插入是相当快的，查找和删除却很慢，因此，与数组一样，链表最好也应用于数据量相对较小的情况。
对于编程而言，链表比数组复杂，但它比树或哈希表简单。
二叉搜索树
当确认数组和链表过慢时，二叉搜索树是最先应该考虑的结果，树可以提供快速的O(logN)级的插入、查找和删除。遍历的时间复杂度是O(N)级的，这是任何数据结构遍历的最大值(根据定义，必须访问所有的数据)。对于遍历一定范围内的数据可以很快得出访问数据的最大值或最小值。
对于程序来说，不平衡的二叉搜索树要比平衡的二叉树简单得多，但不幸的是，有序数据能将它的性能降至O(N)级，不比一个链表好多岁，然而如果可以保证数据是随机进入的，就不需要用平衡二叉树。
平衡树
在众多平衡树中，我们讨论了红黑树和2-3-4树，它们都是平衡树，并且无论输入数据是否有序，它们都能保证性能为O(logN)。然而对于实现来说，平衡树是很复杂的，特别是红黑树。如果利用树的商用类，可以降低复杂性。
哈希表
哈希表在数据存储结构中速度最快，这使它成为计算机而不是人与数据交互时的必需。哈希表通常用于拼写检查器和作为计算机语言编译器的符号表，这些应用中，程序必须在几分之一秒的时间里检查上千的词或符号。
哈希表对插入的顺序并不敏感，因此可以取代平衡树。但是哈希表的编程比平衡树简单多了。
哈希表需要有额外的存储空间，尤其是对于开放地址法，因为哈希表用数组作为基本结构，所以，必须预先精确地知道待存储的数据量。
用链地址法处理冲突的哈希表是最健壮的实现方法，若能预先精确地知道数据量，在这种情况下，用开放地址法编程最简单，因为不需要用到链表类。
哈希表并不能提供任何形式的有序遍历，或对最大值、最小值进行存取，如果这些功能很重要，使用二叉树更好些。
通用数据存储结构的比较
2 专用数据结构
专用数据结构有栈、队列和优先级队列。这些结构不是为了用户可访问的数据库而建立的，通常用它们在程序中辅助实现一些算法。
栈、队列和优先级队列是抽象数据类型，它们由一些更加基础的数据结构如数组、链表或堆来实现。这些ADT只提供给用户间的的接口，一般仅允许插入和访问或者删除一个数据项。这些数据项是：
对于栈：最后被插入的数据项
对于队列：最先被插入的数据项
对于优先级队列：具有最高优先级的数据项
栈
栈用在最后被插入数据项访问的时候，它是一个后进先出的结构。
栈往往通过数组或链表实现，通过数组实现很有效率，因为最后被插入的数据总是在数组的最后，这个位置的数据很容易被删除。栈的溢出有可能出现，但当数组的大小被合理规划后，溢出并不常见，因为栈很少会拥有大量的数据。
如果栈拥有许多数据，并且数量不可精确预测(当用栈实现递归时)，用链表比数组更好一些，这是由于从表头的位置删除或插入一个元素很方便，除非整个内存满了，栈的溢出不可能出现。链表比数组稍慢一些，因为对于插入一个新链结必须分配内存，从表中某个链结点上删除元素后回收分配内存亦是必须的。
队列
队列用在只对最先被插入数据项访问的时候，它是一个先进先出的结构。
同栈相比，队列同样可以通过数组和链表实现，这两种方法都很有效率。数组需要附加的程序来处理队在数组尾部回绕的情况。链表必须是双端的，这样才能从一端插入到另一端删除。
用数组还是链表来实现队列的选择是通过数据量是否可以被很好地预测来决定的，如果知道会有多少数据量的话，就使用数组，否则的话就用链表。
优先级队列
优先级队列用在只对访问最高优先级数据项访问的时候，最高优先级数据项就是含有最大(有时最小)的关键字的项。
优先级队列可以用有序数组或堆来实现，向有序数组中插入是很慢的，但是删除很快，使用堆来实现优先级队列，插入和删除的时间复杂度都是O(logN)级
当插入速度不重要时，可以使用数组或双端链表，当数据量可以被预测时，使用数组，当数据量未知时，可以使用链表，如果速度很重要的话，选择堆更好一些。
专用结构的比较
3 排序
当选择数据结构时，可以先尝试一种较慢但简单的排序，例如插入排序。如果采用了这些方法，现代计算机的快速处理速度也有可能在恰当的时间内将较大的数据量排序。
插入排序对几乎已排好的文件也很有效，如果没有太多的元素处于乱序的位置上，操作的时间复杂度大约在O(N)级，这通常发生在往一个已排好序的文件中插入一些新的数据元素的情况。
如果插入排序显得太慢，下一步可以尝试希尔排序，它很容易实现，并且使用起来不会因为条件不同而性能变化差距太大：Sedgewick估计它的数据量为5000以下时很有用。
只有当希尔排序变得很慢时，你才应该使用那些更复杂但更快速的排序方法：归并排序、堆排序或快速排序。归并排序需要辅助存储空间，堆排序需要有一个堆的数据结构，前两者都比快速排序在某些程度上慢，所以当需要最短的排序时间时经常选择快速排序。
然而，快速排序在处理非随机性能数据时性能不大可靠，因为那时它的速度有可能退化至O(N^2)级。
对那些有可能是非随机性的数据来说，堆排序更加可靠，当快速排序没有被正确地实现时，它会产生微小偏差，在代码中细小的错误会使它对按某些顺序排列的数据无能为力，而诊断这种情况又相当难。
下面是几种排序算法的时间复杂度级别
