概率、概率公理、样本空间、随机变量、概率分布函数、期望、期望的线性性质

概率、概率公理、样本空间、随机变量、概率分布函数、期望、期望的线性性质

目录

• 概率、概率公理、样本空间、随机变量、概率分布函数、期望、期望的线性性质
  • 概率
  • 概率公理（柯尔莫哥洛夫）
  • 随机变量
  • 期望
  • 期望的线性性质

概率

公理概率：只有满足概率公理的概率才能称为概率。

古典概率：在等可能性的前提下，由“条件数的比值”确定的概率。是公理概率的特殊化。

统计概率：是由“发生频率的比值”所确定的概率

概率公理（柯尔莫哥洛夫）

样本空间是基本事件的集合。

概率分布函数是样本空间的子集到实数集的函数

设\(\Omega\)为集合，A, B是\(\Omega\)的子集，设Pr为\(\Omega\)的子集到实数集的函数，令函数Pr满足以下公理P1, P2, P3.

公理P1: 0 <= Pr(A) <= 1

公理P2: Pr(\(\Omega\)) = 1(必然事件概率为1)

公理P3: 如果 $ A \cap B = {}\(,则\) Pr(A \cup B) = Pr(A) + Pr(B) $.(互斥事件，和的概率等于概率的和)

集合\(\Omega\)称为样本空间;

\(\Omega\)的子集称为事件;

函数Pr称为概率分布函数;

实数Pr(A)称为A发生的概率。

随机变量

随机变量是样本空间\(\Omega\)到实数集\(\Re\)的函数。

期望

随机变量X的期望E[X]定义如下：

\[E[X] = \sum _{k=0} ^{\infty}{c_k * Pr(X=c_k)} \]

其中，co, c1, c2... ck表示随机变量X的取值

\(Pr(X = c_k)\)表示随机变量等于值\(c_k\)的概率。

期望的线性性质

假设随机变量X和Y定义在同一个样本空间上，那么X+Y也是定义在此样本空间上的随机函数，则

\[E[X+Y] = E[X] + E[Y]\\E[K*X] = K*E[X] (K为常数) \]

和的期望等于期望的和。

Note:

当随机变量X = X1 + X2 + X3时，

实际上是说

对任意\(\omega \in \Omega\)，都有

\[X(\omega) = X1(\omega) + X2(\omega) + x3(\omega) \]

例子：

掷骰子直至掷出所有点数，求此时掷骰子的次数的期望。

将“掷出所有点数时掷骰子的次数”设为随机变量X.

\(X_j\)表示假设已经出现了j中点数，直至掷出没有出现过的点数时，掷骰子的次数。

则 $ X = X_0 + X_1 + X_2 + X_3 + X_4 + X_5$

对随机变量\(X_j\)进行讨论

掷出没出现过的点数的概率为\(p_j\)

\[p_j = (6-j) / 6 = 1 -j/6 \]

相反的，掷出出现过的点数的概率为\(q_j\)

\[q_j = j/6 \]

现在掷骰子的问题变成了抛硬币。硬币出现正面的概率为\(p_j\)，反面的概率为\(q_j\)

$Pr(X_j = k) $表示在出现k-1次反面后，出现正面的概率。

\[Pr(X_j = k) = q_j^(k-1) p_j \]

\[E(X_j) = \lim _{n \to \infty} \sum _{k=1} ^n {k*Pr(X_j=k)} \\= 6 / (6-j) \]

\[E(X) = 6*(1+1/2+1/3+1/4+1/5+1/6) = 14.7 \]