算法思想（二）动态规划 Dynamic Programming

动态规划与分治法相似，都是通过组合子问题的解来求解原问题（Programming在这里指的是一种表格法，并非是编写计算机程序），但是又有所不同：

• 分治法将问题分解为互不相交的子问题，递归求解子问题，再将它们的解组合起来，求出原问题的解。
• 动态规划适合求解最优化问题（optimization problem），这些问题应该具备两个要素：最优子结构和子问题重叠。
  • 最优子结构，如果一个问题的最优解包含其子问题的最优解，则我们称此问题具有最优子结构的性质，可以用子问题的最优解来构造原问题的最优解。
    • 证明问题最优解的第一个组成部分是做出一个选择，做出这个选择会产生一个或多个待解的子问题。
    • 对于一个给定问题，在其可能的第一步选择中，假定已经知道哪种选择才会得到最优解。
    • 给定可获得最优解的选择后，确定这次选择会产生哪些子问题，以及如何最好地刻画子问题空间 —— 保持子问题空间尽可能简单，只在必要时才扩展它。
    • 利用”剪切-粘贴“（cut-and-paste）技术证明：作为构成原问题最优解的组成部分，每个子问题的解就是它本身的最优解。
  • 子问题重叠，即不同的子问题具有公共的子子问题（子问题的求解是递归进行的，将其划分为更小的子子问题）
    • 分治法会反复地求解那些公共的子子问题；
    • 动态规划算法对每个子子问题只求解一次，将解保存在一个表格中，当再次需要这个子问题时直接查表，每次查表的代价为常量时间，从而无需每次求解一个子子问题时都重新计算。

最优化问题会有很多可行的解，每个解都有一个值，我们希望寻找具有最优（最小值或最大值）的解，这样的解称为其中一个最优解（an optimal solution），而非就是最优解（the optimal solution），因为可能有多个解都达到最优值。通常按四个步骤来设计一个动态规划算法：

1. 刻画一个最优解的结构特征。
2. 递归地定义最优解的值。
3. 计算最优解的值，通常采用自底向上的方法。
4. 利用计算出的信息构造一个最优解。

步骤1~3是动态规划算法求解问题的基础。如果我们仅仅需要一个最优解的值，而非解本身，可以忽略步骤4。如果确实需要做步骤4，有时就需要在执行步骤3的过程中维护一些额外信心，以便用来构造一个最优解。

 

常见用动态规划求解的最优化问题

• 钢条切割
• 矩阵链乘法
• 最长公共子序列
• 最优二叉搜索树