线性规划小记

线性规划小记

线性规划问题（LP 问题）

有 \(n\) 个变量 \(x_1,x_2,\dots,x_n\)
存在若干个线性的限制，形如 \(\sum_{i}a_ix_i\leq v\)，其中 \(a_i,v\) 均为常数
求最大化目标线性函数 \(\max \sum_i b_ix_i\)
这里变量的取值范围为实数
对于取值范围为整数的问题称为 ILP 问题，其为 NPC 问题

标准型

最大化：\(\sum_i c_ix_i\)
满足约束：\(\sum_{j}a_{i,j}x_j\leq b_i,i\in[1,m]\\x_j\geq 0,j\in[1,n]\)

能简单的用矩阵的语言描述它

松弛型

最大化：\(\sum_{j=1}^nc_jx_j\)
满足约束：\(x_{i+n}=b_i-\sum_{j=1}^na_{i,j}x_j,i\in[1,m]\\x_j\geq 0,j\in[1,n+m]\)

全幺模矩阵

这样的矩阵做 LP 问题，中间的所有结果一定是整数

在矩阵的行、列中均选取一个大小为 \(k\) 的子集
构成的大小为 \(k\times k\) 的方阵的行列式为 \(-1,0,1\)

网络流问题对应 LP 问题的矩阵均是全幺模矩阵

单纯形算法

单纯形法的基本思想是，通过变量的代换，实现在解空间内沿着边界朝目标函数增大的方向移动

其核心操作是转轴（pivot）操作

基变量：在松弛型不等式左边的所有变量
非基变量：在松弛型不等式右边的所有变量

线性规划的一组基变量和非基变量就包含着一组基本解：
即所有基变量的值取右侧的常数项，所有非基变量的值取 \(0\)，在单纯形算法中我们只考虑基本解

pivot

选择一个基变量 \(x_B\) 和一个非基变量 \(x_N\)，将他们互换（称 \(x_B\) 为换入变量，\(x_n\) 为换入变量 ）
具体来说：

\[x_B=b_i-\sum_{j=1}^na_{i,j}x_j\\ \to x_N=\frac{b_i-x_B-\sum_{j\neq N}a_{i,j}x_j}{a_{i,N}} \]

并且将目标函数即其他限制条件中的 \(x_N\) 全部替换成上式，则做到了互换基变量与非基变量
值得一提的是我们当然应该保证 \(a_{i,N}\neq 0\)
容易发现 pivot 操作的复杂度为 \(O(nm)\)

simplex

该过程也是单纯性算法的主过程，核心思想是从一个基本解出发，经过一系列的 pivot 操作，达到最优解
我们只要选择适当的换入变量与换出变量，使得每次 pivot 均使目标函数增大，就能逐渐达到最优解
注意到我们需要保证 \(b_i\geq 0\)，我们首先讨论有这个条件怎样完成 simplex 操作

1. 找到一个 \(e\) 满足 \(c_e>0\)
   特别的，如果不存在这样的 \(e\)，那么 simplex 操作结束

2. 找到下标 \(l\) 满足 \(a_{l,e}>0\)，并最小化 \(\dfrac{b_l}{a_{l,e}}\)
   特别的，如果不存在这样的 \(l\)，那么该线性规划是无界的

3. 对 \(e,l\) 进行 pivot 操作

如果初始时 \(b_i\geq 0\)，可以证明，在 pivot 操作后一定有 \(b_i\geq 0\)
考虑我们如何解决开始时 \(b_i<0\) 的情况，我们引入一个辅助线性规划：

最大化：\(-x_0\)
满足约束：\(x_{i+n}=b_i+x_0-\sum_{j=1}^na_{i,j}x_j,i\in[1,m]\\x_i\geq 0,i\in[0,n+m]\)

考虑如果原线性规划存在一个可行解 \((\hat x_1,\hat x_2,\dots,\hat x_{n+m})\)，那么 \((0,\hat x_1,\hat x_2,\dots,\hat x_{n+m})\) 就是辅助线性规划的一组可行解
而由于我们需要最小化 \(x_0\)，那么这个可行解就是辅助线性规划里的最优解
而由于 \(x_0=0\)，我们得到这样的一组最优解后，可以直接将 \(x_0\) 去掉，将目标函数替换为原目标函数，即能将 \(b_i\) 变为非负数
我们容易构造出辅助线性规划的初始解，我们考虑将 \(x_0\) 作为换入变量，找到 \(b_i\) 最小值 \(b_l\)，把 \(x_{l+n}\) 作为换出变量执行转轴操作即可
容易发现 \(b'\) 将非负，对辅助线性规划跑 simplex 即可
容易发现 simplex 的复杂度是指数的（，但实际运行情况很好（

过不去uoj板子，爬了

对偶

对于线性规划问题：

最小化：\(\sum_{j=1}^nc_jx_j\)
约束：\(\sum_{j=1}^na_{i,j}x_j\geq b_i,i\in [1,m]\)

其对偶问题为：

最大化：\(\sum_{i=1}^mb_iy_i\)
约束：\(\sum_{i=1}^ma_{i,j}y_i\leq c_j,j\in [1,n]\)

默认 \(x_i,y_i\geq 0\)

具体一点的理解是，原问题的限制变成了对偶问题的变量

1. 弱对偶定理：对偶问题的解不大于原问题的解

2. 强对偶定理：对偶问题的解等于原问题的解
   定理在有解情况下成立

3. 如果原问题最优解中条件 \(i\) 没有取到等号，那么对偶问题里 \(y_i=0\)