马尔可夫(Markov)不等式
马尔可夫不等式把概率关联到数学期望,给出了随机变量的分布函数一个宽泛但仍有用的界。
令 $X$ 为非负随机变量,且假设 $E(X)$ 存在,则对任意的 $a > 0$ 有
$$P\left \{ X \geq a \right \} \leq \frac{E(X)}{a}$$
马尔可夫不等式是用来估计尾部事件的概率上界,一个直观的例子是:如果 $X$ 是工资,那么 $E(X)$ 就是平均工资,假设 $a=n*E(X)$,即平均
工资的 $n$ 倍。那么根据马尔可夫不等式,不超过 $1/n$ 的人会有超过平均工资的 $n$ 倍的工资。
证明如下
$$E(X) = \int_{0}^{+\infty}f(x)dx = \int_{0}^{a}xf(x)dx + \int_{a}^{+\infty}xf(x)dx \geq \int_{a}^{+\infty} xf(x)dx \geq a\int_{a}^{+\infty}f(x)dx = aP\left \{ X > a \right \}$$
切比雪夫不等式是马尔科夫不等式的特殊情况。
若随机变量 $X$ 的数学期望和方差都存在,分别设为 $E(X)$ 和 $D(X)$,则对任意的 $\varepsilon >0$,有
$$P\left \{| X-E(X) | \geq \varepsilon \right \} \leq \frac{D(X)}{\varepsilon ^{2}}$$
通过马尔可夫不等式可证明
$$P\left \{| X-E(X) | \geq \varepsilon \right \} = P\left \{[X-E(X)]^{2} \geq \varepsilon^{2} \right \} \leq \frac{E\left \{ [X-E(X)]^{2} \right \}}{\varepsilon ^{2}} = \frac{D(X)}{\varepsilon ^{2}}$$
切比雪夫不等式没有限定分布的形式,所以应用广泛,但这个界很松。
$\varepsilon$ 代表 $X$ 和期望 $E(X)$ 之间的距离,相差越大,则概率越小,它描述了这样一个事实:事件大多会集中在平均值附近。