协方差/协方差矩阵与相关系数
协方差
方差的定义为:
\[D(X) = E(X - E(X))^2
\]
当要处理两个随机变量时, 可以定义它的协方差:
\[cov(X, Y) = E([X-E(X)][Y - E(Y)])
\]
对于\(n\)个随机变量组成的向量\(X = (X_1, X_2, \dots, X_n)^T\), 可以定义它的协方差矩阵:
\[C = E([X - E(X)][X - E(X)]^T)
\]
广泛用于机器学习中, 如PCA降维
相关系数
\[corr(X, Y) = \frac{cov(X, Y)}{\sqrt {D(X)D(Y)}}
\]
取值范围为\([-1, 1]\), 表征线性相关的程度
(END)
Daniel的学习笔记
浙江大学计算机专业15级硕士在读, 方向: Machine Learning, Deep Learning, Computer Vision.
blog内容是我个人的学习笔记, 由于个人水平限制, 肯定有不少错误或遗漏. 若发现, 欢迎留言告知, Thanks!
Daniel的学习笔记
浙江大学计算机专业15级硕士在读, 方向: Machine Learning, Deep Learning, Computer Vision.
blog内容是我个人的学习笔记, 由于个人水平限制, 肯定有不少错误或遗漏. 若发现, 欢迎留言告知, Thanks!