机器学习-半正定规划

1、概念解释

（1）什么是半正定规划？

　　半正定规划(Semi-Definite Programming，简称SDP) 是一类凸优化问题，其中的变量可组织成半正定对称矩阵形式，且优化问题的目标函数和约束都是这些变量的线性函数。

（2）什么是对称矩阵？

　　对称矩阵是指一个矩阵的元素关于主对角线对称。换句话说，如果矩阵A的第i行第j列的元素等于第j行第i列的元素（即A[i, j] = A[j, i]），那么矩阵A就是对称矩阵。

　　对称矩阵在数学和工程领域中有广泛的应用，具有一些特殊的性质：

• 对称矩阵的特征值（eigenvalue）都是实数。这使得对称矩阵在许多问题的求解中更容易处理。
• 对称矩阵可以被对角化，即可以通过相似变换转化为对角矩阵。这意味着可以通过对称矩阵的特征值和特征向量来描述矩阵的性质。
• 对称矩阵的秩等于其非零特征值的个数。

（3）什么是对角矩阵？

　　对角矩阵是指一个矩阵的所有非主对角线上的元素都为零。换句话说，如果一个矩阵A的第i行第j列（i ≠ j）的元素为零（即A[i, j] = 0），那么矩阵A就是对角矩阵。

　　对角矩阵的主对角线上的元素可以是任意值，可以是实数也可以是复数。对角矩阵的形式通常表示为：

D = 
[d1, 0, 0, ..., 0; 
0, d2, 0, ..., 0; 
0, 0, d3, ..., 0; 
... 
0, 0, 0, ..., dn]

　　其中，d1, d2, d3, ..., dn 是对角线上的元素，其余位置上的元素均为零。

　　对角矩阵在数学和工程领域中有着广泛的应用，主要有以下几个特点：

• 对角矩阵的运算相对简单，例如矩阵乘法和矩阵加法。
• 对角矩阵的特征值就是其主对角线上的元素。
• 对角矩阵的幂运算非常简单，只需要对主对角线上的元素进行幂运算即可。

2、基本推演