以简单组合优化为例讨论计算复杂性

此为课题组所指导本科生和低年级硕士生学习组合优化问题汇报
所用教材：北京大学屈婉玲教授《算法设计与分析》
课程资料：https://www.icourse163.org/course/PKU-1002525003
承诺不用于任何商业用途，仅用于学术交流和分享

• 更多内容请关注课题组官方中文主页：https://JaywayXu.github.io/zh-cn/

1. 简单TSP(1.4)

• 问题描述：有\(n\)个城市, 已知任两个城市之间的距离. 求一条每个城市恰好经过 1 次的回路,使得总长度最小.
• 实例：
  
• 输入：有穷个城市的集合\(C=\left\{c_1, c_2, \ldots, c_n\right\}\), 距离\(d\left(c_i, c_j\right)=d\left(c_j, c_i\right) \in \mathbf{Z}^{+}, \quad 1 \leq i<j \leq n\)
• 解：\(1,2 \ldots, n\)的排列\(k_1, k_2, \ldots, k_n\)使得:

\[\min \left\{\sum_{i=1}^{n-1} d\left(c_{k_i}, c_{k_{i+1}}\right)+d\left(c_{k_n}, c_{k_1}\right)\right\} \]

• 现状：至今没找到有效的算法

2. 背包问题（knapsack Problem）(5.7)

• 一个旅行者随身携带一个背包. 可以放入背包的物品有\(n\)种, 每种物品的重量和价值分别为\(w_i, v_i\). 如果背包的最大重量限制是\(b\), 每种物品可以放多个. 怎样选择放入背包的物品以使得背包的价值最大？不妨设上述\(w_i, v_i, b\)都是正整数.

建模

• 解是\(\left\langle x_1, x_2, \ldots, x_n\right\rangle\), 其中\(x_i\)是装入背包的第\(i\)种物品个数
• 目标函数\(\max \sum_{i=1}^n v_i x_i\)
• 约束条件\(\sum_{i=1}^n w_i x_i \leq b, x_i \in \mathrm{~N}\)
• 线性规划问题: 由线性条件约束的线性函数取最大或最小的问题
• 整数规划问题: 线性规划问题的变量\(\boldsymbol{x}\)都是韭负整数

2.1. 0-1背包(1.4)

*\(0-1\)背包问题: 有\(\boldsymbol{n}\)个件物品要装入背包,第\(i\)件物品的重量\(w_i\), 价值\(v_i, i=1,2, \ldots, n\). 背包最多允许装入的重量为\(\boldsymbol{B}\)，问如何选择装入背包的物品, 使得总价值达到最大? （每种物品只能装一件）

• 实例：n=4, B=6， 物品的重量和价值如下：

\[\begin{array}{|c|c|c|c|c|} \hline \text { 标号 } & \mathbf{1} & \mathbf{2} & \mathbf{3} & \mathbf{4} \\ \hline \text { 重量 } \boldsymbol{w}_{\boldsymbol{i}} & \mathbf{3} & \mathbf{4} & \mathbf{5} & \mathbf{2} \\ \hline \text { 价值 } \boldsymbol{v}_{\boldsymbol{i}} & 7 & 9 & 9 & 2 \\ \hline \end{array} \]

问题建模

• 问题的解：0-1向量\(<x_1, x_2, \ldots, x_n>\)\(x_i=1 \Leftrightarrow\)物品\(i\)装入背包
• 目标函数：\(\max \sum_{i=1}^n v_i x_i\)
• 约束条件：\(\sum_{i=1}^n w_i x_i \leq B\),\(x_i=0,1, i=1,2, \ldots, n\)

2.2. 简单最优装载问题(7.4)

• 问题描述：\(n\)个集装箱\(1,2, \ldots, n\)装上轮船, 集装箱\(i\)的重量\(w_i\), 轮船装载重量限制为\(C\), 无体积限制. 问如何装使得上船的集装箱最多？不妨设每个箱子的重量\(w_i \leq C\).
• 问题分析：该问题是\(0-1\)背包问题的子问题. 集装箱相当于物品, 物品重量是\(w_i\), 价值\(v_i\)都等于 1 , 轮船载重限制\(C\)相当于背包重量限制\(\boldsymbol{b}\).

问题建模

• 设\(< x_1, x_2, \ldots, x_n>\)表示解向量,\(x_i=0,1\),\(x_i=1\)当且仅当第\(i\)个集装箱装上船

• 目标函数\(\max \sum_{i=1}^n x_i\)

• 约束条件\(\sum_{i=1}^n w_i x_i \leq C， x_i=0,1 \quad i=1,2, \ldots, n\)

2.3 背包问题分类(5.7)

• 物品数受限背包: 第\(i\)种物品最多用\(n_i\)个 0 -1背包问题:\(x_i=0,1, i=1,2, \ldots, n\)
• 多背包问题:\(m\)个背包, 背包\(j\)装入最大重量\(B_j, j=1,2, \ldots, m\). 在满足所有背包重量约束条件下使装入物品价值最大.
• 二维背包问题: 每件物品有重量\(\boldsymbol{w}_i\)和体积\(\boldsymbol{t}_{\boldsymbol{i}}, \boldsymbol{i}=1,2, \ldots, n\), 背包总重不超过\(\boldsymbol{b}\),体积不超过\(V\), 如何选择物品以得到最大价值。

3. 简单调度问题

3.1 双机调度(1.4)

• 问题描述：双机调度问题: 有\(n\)项任务, 任务\(i\)的加工时间为\(t_i, t_i \in \mathbf{Z}^{+}, i=1,2, \ldots, n\). 用两台相同的机器加工, 从 0 时刻开始计时, 完成时间是后停止加工机器的停机时间. 问如何把这些任务分配到两台机器上, 使得完成时间达到最小?
• 实例：假设有任务集合\(\text { 任务集 } S=\{1,2,3,4,5,6\}\), 任务时间：\(t_1=3, t_2=10, t_3=6, t_4=2, t_5=1, t_6=7\)。
• 实例解：设有一解：机器 1 的任务:\(1,2,4\)，机器 2 的任务:\(3,5,6\)，则完成时间为：\(\max \{3+10+2,6+1+7\}=15\)

双机调度问题建模

1. 问题描述：

该问题属于经典的双机调度问题（Two-Machine Scheduling Problem），目标是将任务分配给两台机器，使得完成时间（即两台机器中最晚的完成时间）最小。

2. 模型建模：

1. 决策变量：
   定义 0-1 决策变量\(x_i\)，其中：

   • \(x_i = 1\)表示任务\(i\)被分配到机器 1；
   • \(x_i = 0\)表示任务\(i\)被分配到机器 2；
   • \(i = 1, 2, \dots, n\)，其中\(n\)是任务的数量。

2. 目标函数：
   目标是最小化机器的最大完成时间（Makespan），即：

\[\min \left( \max \left( \sum_{i=1}^{n} x_i t_i, \sum_{i=1}^{n} (1 - x_i) t_i \right) \right) \]

• \(\sum_{i=1}^{n} x_i t_i\)表示分配给机器 1 的总加工时间；
• \(\sum_{i=1}^{n} (1 - x_i) t_i\)表示分配给机器 2 的总加工时间；
• 最大值函数\(\max\)取两台机器中加工时间较大的那个作为目标最小化的值。

3. 约束条件：
   • 每个任务\(i\)都必须分配给一台机器上：
     \(x_i \in \{0, 1\}, \quad i = 1, 2, \dots, n\)
   • 加工时间是整数非负值：
     \(t_i \in \mathbf{Z}^{+}, \quad i = 1, 2, \dots, n\)

当然，也可以不妨设机器 1 的加工时间\(\leq\)机器 2 的加工时间令\(T=t_1+t_2+\ldots+t_n, D=\lfloor T / 2\rfloor\), 机器 1 的加工时间不超过\(D\), 且达到最大.

另一种建模方式

问题描述：

我们有\(n\)项任务，每项任务\(i\)的加工时间为\(t_i\)，两台相同的机器开始工作，目的是将任务分配给两台机器，使得满足约束条件的同时完成时间最小。完成时间是后停止加工的机器的停机时间。

目标：

根据图片中的约束，目标是最大化机器 1 的加工时间，但其总加工时间不能超过\(D = \left\lfloor \frac{T}{2} \right\rfloor\)，其中\(T = t_1 + t_2 + \dots + t_n\)。

模型建模：

1. 决策变量：
   定义 0-1 决策变量\(x_i\)：

   • \(x_i = 1\)表示任务\(i\)被分配到机器 1；
   • \(x_i = 0\)表示任务\(i\)被分配到机器 2；
   • 其中\(i = 1, 2, \dots, n\)，\(n\)是任务的数量。

2. 目标函数：
   目标是最大化机器 1 的加工时间，但不能超过\(D\)：
   \(\max \left( \sum_{i=1}^{n} x_i t_i \right)\)
   满足：

\[ D = \left\lfloor \frac{T}{2} \right\rfloor, \quad T = t_1 + t_2 + \dots + t_n \]

其中\(T\)是所有任务总的加工时间。

3. 约束条件：
   • 约束 1：机器 1 的总加工时间不能超过\(D\)：
   \[ \sum_{i=1}^{n} x_i t_i \leq D \]
   • 约束 2：机器 1 和机器 2 共同完成所有任务，总任务时间应为\(T\)：
   \[ \sum_{i=1}^{n} x_i t_i + \sum_{i=1}^{n} (1 - x_i) t_i = T \]
   • 决策变量的取值限制：
   \[ x_i \in \{0, 1\}, \quad i = 1, 2, \dots, n \]

总结：

该模型的目标是在机器 1 的加工时间尽量大的前提下，不超过给定的阈值\(D\)，剩余的任务则分配到机器 2。通过这个建模方法，任务被合理分配，以实现优化目标。

3.2 最小延迟调度(7.5)

• 问题描述：客户集合\(A, \forall i \in A, t_i\)为服务时间（即需要为客户i服务的工时）,\(d_i\)为要求完成时间（即客户要求的任务完成DDL）,\(t_i, d_i\)为正整数. 一个调度\(f: A \rightarrow \mathrm{~N}, f(i)\)为客户\(i\)的开始时间. 求最大延迟达到最小的调度（每个任务的延迟-即为其实际开始时间+工时-约定的DDL。而所有任务中最大的延迟即为这个问题的最大延迟。目标是使这个任务集合的最大延迟最小）, 即求\(f\)使得：

\[\begin{aligned} & \min _f\left\{\max _{i \in A}\left\{f(i)+t_i-d_i\right\}\right\} \\ & \forall i, j \in A, i \neq j, f(i)+t_i \leq f(j) \\ & \text { or } f(j)+t_j \leq f(i) \end{aligned} \]

• 实例：

1. 按照任务的顺序进行安排，例如：
   

• 在任务顺序\(A = \{1, 2, 3, 4, 5\}\)下，每个任务的执行时间\(T = \langle 5, 8, 4, 10, 3 \rangle\)，截止时间\(D = \langle 10, 12, 15, 11, 20 \rangle\)。我们根据以下步骤计算每个任务的完成时间和延迟。

完成时间\(f_1(i)\)：

任务\(i\)的完成时间是前面所有任务的累计执行时间：

• \(f_1(1) = 5\)
• \(f_1(2) = 5 + 8 = 13\)
• \(f_1(3) = 13 + 4 = 17\)
• \(f_1(4) = 17 + 10 = 27\)
• \(f_1(5) = 27 + 3 = 30\)

延迟\(L(i) = \max\{f_1(i) - D_i, 0\}\)：

延迟是完成时间与截止时间的差，如果差为负则延迟为 0。

• 任务 1:\(L(1) = \max\{5 - 10, 0\} = \max\{-5, 0\} = 0\)
• 任务 2:\(L(2) = \max\{13 - 12, 0\} = \max\{1, 0\} = 1\)
• 任务 3:\(L(3) = \max\{17 - 15, 0\} = \max\{2, 0\} = 2\)
• 任务 4:\(L(4) = \max\{27 - 11, 0\} = \max\{16, 0\} = 16\)
• 任务 5:\(L(5) = \max\{30 - 20, 0\} = \max\{10, 0\} = 10\)

最大延迟：

所有任务的延迟为\(\{0, 1, 2, 16, 10\}\)，其中最大延迟为 16（任务 4）。

更优的调度方法：按截止时间从前到后安排

按照截止时间从前到后排序的任务调度

数据：

• 任务集合：\(A = \{1, 2, 3, 4, 5\}\)
• 执行时间：\(T = \langle 5, 8, 4, 10, 3 \rangle\)
• 截止时间：\(D = \langle 10, 12, 15, 11, 20 \rangle\)
• 排序后任务顺序：\(1, 4, 2, 3, 5\)

完成时间\(f_2(i)\)：

• \(f_2(1) = 5\),\(f_2(2) = 15\),\(f_2(3) = 23\),\(f_2(4) = 27\),\(f_2(5) = 30\)

延迟\(L(i) = \max\{f_2(i) - D_i, 0\}\)：

• \(L(1) = \max\{5 - 10, 0\} = 0\)
• \(L(4) = \max\{15 - 11, 0\} = 4\)
• \(L(2) = \max\{23 - 12, 0\} = 11\)
• \(L(3) = \max\{27 - 15, 0\} = 12\)
• \(L(5) = \max\{30 - 20, 0\} = 10\)

结果：

• 各任务延迟：\(\{0, 11, 12, 4, 10\}\)
• 最大延迟： 12（任务 3）

4. RNA二级结构预测（6.6）

• RNA的一级结构是由核苷酸（A、C、G、U）组成的线性序列
  *\(A-C-C-G-C-C-U-A-A-G-C-C-G-U-C-C-U-A-A-G-\)
• 而二级结构描述了这些核苷酸之间的碱基配对形成的二维拓扑结构。这些配对大多数遵循沃森-克里克配对规则（A-U 和 C-G），也可能存在少量其他配对形式（如G-U）。
• RNA二级结构通常由发夹环、内环、茎和多分支环等结构组成，这些特征在RNA分子功能中起关键作用。
  

匹配原则

匹配结构

• 给定RNA的一条链（一级结构）, 预测它的可能的稳定的二级结构。
• 稳定二级结构满足的条件
• 生物学条件: 具有最小自由能
• 简化条件：具有最多的匹配对数
• 问题: 给定RNA链, 求具有最多匹配对数的二级结构, 即最优结构.

NP-hard问题

• 这样的问题有数千个，大量存在于各个应用领域.
• 至今没有人能够证明对于这类问题不存在多项式时间的算法.
• 至今没找到有效算法：现有的算法的运行时间是输入规模的指数或更高阶函数.
• 从是否存在多项式时间算法的角度看，这些问题彼此是等价的. 这些问题的难度处于可有效计算的边界.

P=NP?

P=NP 问题的解释

背景：

1. P 类问题：P（Polynomial time）是多项式时间可解问题的集合，代表了那些可以在多项式时间内被求解的决策问题。也就是说，对于给定输入，可以在合理的时间内（即，时间复杂度是输入规模的某个多项式）找到解决方案的所有问题。

   • 例子：排序问题（如快速排序）、图的最短路径问题（如 Dijkstra 算法）等。

2. NP 类问题：NP（Nondeterministic Polynomial time）是非确定性多项式时间问题的集合，代表了那些解法可以在多项式时间内验证的问题。也就是说，如果我们给出一个候选解，可以在多项式时间内验证这个解是否正确。

   • 例子：旅行商问题、整数分解、数独等问题。对于这些问题，可能我们不知道如何快速找到解，但一旦给出解，验证这个解是否正确是比较快的。

P vs NP 问题：

• P 表示所有可以在多项式时间内求解的问题。
• NP 表示所有可以在多项式时间内验证的问题。

P=NP 的含义是：是否所有能够在多项式时间内验证正确解的问题，也能在多项式时间内找到解？

换句话说：

• P = NP：如果某个问题的解能够快速验证（属于 NP 类问题），那么它也能被快速求解（属于 P 类问题）。
• P ≠ NP：有些问题虽然解的验证很快（属于 NP 类问题），但找到解的过程非常慢，甚至可能没有有效的多项式时间算法。

为什么这个问题重要？

• 如果 P = NP，那么很多目前被认为非常困难的问题（如密码学中的整数分解、旅行商问题等）将变得可以高效解决。这将对计算机科学、密码学、经济学等各个领域产生巨大影响。
• 如果 P ≠ NP，则说明有很多问题虽然解可以快速验证，但无法高效求解，这解释了为什么我们无法找到某些问题的快速解法。

目前的状况：

• 目前，大多数计算机科学家认为 P ≠ NP，但这一点尚未被证明。因此，P vs NP 问题仍然是一个悬而未决的难题，也是克雷数学研究所的七大千禧年问题之一，如果有人证明了 P = NP 或 P ≠ NP，便可以获得一百万美元的奖励。

举例：

假设你有一个很复杂的密码锁（例如由一组数字组成），这个锁只有一个正确的密码。你不知道如何高效地找到密码（这属于 NP 类问题），但是如果有人告诉你正确的密码，你可以立即检查这个密码是否能打开锁（这是验证问题）。问题是：你能不能既快速验证，又快速找到正确的密码？