常见的概率分布

离散分布

0-1分布(伯努利分布)

它的分布律为：

$$P\{X=k\}=p^k(1-p)^{1-k},  k=0,1, (0<p<1)$$

0-1分布记作：$X \sim b(1,p)$

期望：$E(X)=p$

方差:$D(X)=p(1-p)$

常用的场景：新生婴儿性别的登记，招生考试的录取，产品的是否合格，硬币的正反面。

二项分布

二项分布为$n$重伯努利实验的概率分布。

分布律为：

$$P\{X=k\}=\begin{pmatrix} n\\ k \end{pmatrix}p^k(1-p)^{n-k},k=0,1,2,...,n,(0<p<1)$$

$$\sum\limits_{k=0}^{n}P\{X=k\}=\sum\limits_{k=0}^{n}\begin{pmatrix} n\\ k \end{pmatrix}p^k(1-p)^{n-k}=(p+1-p)^n=1$$

二项分布记作：$X \sim b(n,p)$

期望：$E(X)=np$

方差:$D(X)=np(1-p)$

常用的场景：比如一个人射击$n$次，其中$k$次命中的概率，抽查50台设备，其中10台出故障的概率等等。

从下面的图中，我们可以看到命中次数先增加，到了3达到最大，之后又逐渐减少，一般来说，对于固定的$n,p$，都具有这一性质。

（1）当$（n+1）p$不为整数时，二项概率$P\{X=k\}$在$k=[(n+1)p]$时达到最大值；

（2）当$（n+1）p$为整数时，二项概率$P\{X=k\}$在$k=(n+1)p,k=(n+1)p-1$时达到最大值。

%每轮射击10次，命中概率0.3，射击10000轮，x中返回的是每轮中命中的次数
x=binornd(10,0.3,10000,1);
%bin的数目为10
hist(x,10);

N=100;
p=0.4;
k=0:N;
%事件发生k次的概率
pdf=binopdf(k,N,p);
%事件发生不大于k次的概率
cdf=binocdf(k,N,p);
plotyy(k,pdf,k,cdf);
grid on;

多项分布

    多项式分布是二项式分布的扩展，在多项式分布所代表的实验中，一次实验会有多个互斥结果，而二项式分布所代表的实验中，一次实验只有两个互斥结果。

    把二项扩展为多项就得到了多项分布。比如扔骰子，不同于扔硬币，骰子有6个面对应6个不同的点数，这样单次每个点数朝上的概率都是1/6（对应p1~p6，它们的值不一定都是1/6，只要和为1且互斥即可，比如一个形状不规则的骰子），重复扔n次，如果问有x次都是点数6朝上的概率就是：

$$C_n^xp^x(1-p)^{n-x}$$

更一般性的问题会问：点数1~6的出现次数分别为(x1,x2,x3,x4,x5,x6)时的概率是多少？其中sum(x1~x6）= n。这就是一个多项式分布问题。这时只需用上边公式思想累乘约减就会得到下面的概率公式

某随机实验如果有$k$个可能结局$A_1,A_2,…,A_k$，分别将他们的出现次数记为随机变量$X_1,X_2,…,X_k$，它们的概率分布分别是$p_1,p_2,…,p_k$，那么在$n$次采样的总结果中，$A_1$出现$n_1$次、$A_2$出现$n_2$次、…、$A_k$出现$n_k$次的这种事件的出现概率P有下面公式：

$$P(X_1=n_1,...,X_k=n_k)=\left\{\begin{matrix}\frac{n!}{n_1!...n_k!}p_1^{n_1}...p_k^{n_k}, \sum\limits_{i=1}^kn_i=n\\ 0, others\end{matrix}\right.$$

用另一种形式写为：

$$P(X_1=n_1,...,X_k=n_k)=\left\{\begin{matrix} n!\prod\limits_{i=1}^k\frac{p_i^{n_i}}{n_i!}, \sum\limits_{i=1}^kn_i=n\\ 0, others\end{matrix}\right.$$

其中$\sum\limits_{i=1}^{k}p_i=1$ 。

期望: 设r维随机变量$(x_1,x_2,⋯,x_r)$服从多项分布，则数学期望是

$$E(x_1,x_2,⋯,x_n)=(np_1,np_2,⋯,np_r)$$

方差：$Var(x_i)=np_i(1−p_i)，i=1,2,⋯,r$

泊松分布

概率分布为：

$$P\{X=k\}=\frac{\lambda^ke^{-\lambda}}{k!},k=0,1,2,...,\lambda>0$$

泊松分布记作：$X \sim \pi(\lambda)$

$$\sum\limits_{k=0}^{\infty}P\{X=k\}=\sum\limits_{k=0}^{\infty}\frac{\lambda^ke^{-\lambda}}{k!}=e^{-\lambda}e^\lambda=1,k=0,1,2,...,\lambda>0$$

期望：$E(X)=\lambda$

方差:$D(X)=\lambda$

常用场景：一天内网站的访问量，某段时间内发生的交通事故等等。泊松分布适合于描述单位时间（或空间）内随机事件发生的次数。

对于二项分布，如果$np_n=\lambda$.可以用泊松分布来近似二项分布。

下面的代码画出泊松分布的概率密度图和分布图。

x=0:1:20;
%lambda=5,泊松概率密度
y=poisspdf(x,5);
plot(x,y);
%lambda=5,泊松概率分布
y1=poisscdf(x,5);
figure;
plot(x,y1);

负二项分布(帕斯卡分布)

进行重复试验时，直到某个事件出现了$r$次时停止试验，此时试验进行次数$X$服从负二项分布，为二项分布的变体，注意到最后一次一定是成功的，所以是$C_{k-1}^{r-1}$而不是$C_k^r$

概率分布为：

$$P\{X=k\}=C_{k-1}^{r-1}p^r(1-p)^{k-r},k=r+1,r+2,...,n,(0<p<1)$$

负二项分布记作：$X \sim b_0(r,p)$

期望：$E(X)=\frac{r}{p}$

方差:$D(X)=\frac{r(1-p)}{p^2}$

常用的场景： 比如抽查20台设备，如果出现3次失败就停止抽查，全面停工。

几何分布

负二项分布中，r=1时的特殊情况，即第1次试验成功时，试验进行的次数X的分布。

概率分布为：

$$P\{X=k\}=p(1-p)^k,k=0,1,...,n,(0<p<1)$$

负二项分布记作：$X \sim b_0(r,p)$

期望：$E(X)=\frac{1}{p}$

方差:$D(X)=\frac{(1-p)}{p^2}$

常用的场景： 比如抽查20台设备，如果设备故障，立即停工检修。

超几何分布

to do

单点分布(退化分布)

随机变量取a时，概率为1。

记作： $b_0(a,1)$

单点分布记作：$p(x=a)=1$

期望：a

方差：0

连续分布

均匀分布

随机变量的概率密度在[a,b]区间上为常数$\frac{1}{b-a}$，则此随机变量服从均匀分布，意为在某个区间内各取值是等可能的，概率的大小只与长度有关。

均匀分布概率密度函数：

$$f(x)=\left\{\begin{matrix} \frac{1}{b-a}, a<x<b\\ 0, others \end{matrix}\right.$$

均匀分布分布函数：

$$F(x)=\left\{\begin{matrix}  0,  x<a\\   \frac{x-a}{b-a}, a \leq x<b\\   1, x \geq b   \end{matrix}\right.$$

均匀分布记作: $U(a,b)$

期望:$E(X)=\frac{(a+b)}{2}$

方差：$D(X)=\frac{(b-a)^2}{12}$

正态分布(高斯分布)

http://www.cnblogs.com/mikewolf2002/p/7669977.html

指数分布

为伽玛分布的特殊形式，即当$\alpha=1$时的伽玛分布。

均匀分布概率密度函数：

$$f(x)=\left\{\begin{matrix} \frac{1}{\theta}e^{-x/\theta}, x>0\\ 0, others \end{matrix}\right.$$

均匀分布分布函数：

$$F(x)=\left\{\begin{matrix}  1-e^{-x/\theta},  x>0\\    0, others   \end{matrix}\right.$$

均匀分布记作: $\Gamma(a,b)$

期望:$E(X)=\theta$

方差：$D(X)=\theta^2$

指数函数的一个重要特征是无记忆性（Memoryless Property，又称遗失记忆性）。这表示如果一个随机变量呈指数分布，当$s,t>0$时有$P(T>t+s|T>t)=P(T>s)$。即，如果$T$是某一元件的寿命，已知元件使用了$t$小时，它总共使用至少$s+t$小时的条件概率，与从开始使用时算起它使用至少$s$小时的概率相等。

用下面的代码，我们可以画出指数分布的概率密度函数和分布函数图：

x=0:0.1:5;
plot(x,[gampdf(x,1,0.3);gampdf(x,1,1);gampdf(x,1,2)]);
legend('theta=0.3','theta=1','theta=2');
grid on;
figure;
plot(x,[gamcdf(x,1,0.3);gamcdf(x,1,1);gamcdf(x,1,2)]);
legend('theta=0.3','theta=1','theta=2');
grid on;

$\Gamma 分布$(伽马分布)

http://www.cnblogs.com/mikewolf2002/p/7664944.html

$\chi^2$分布(卡方分布)

http://www.cnblogs.com/mikewolf2002/p/7664944.html

t分布(学生氏分布)

to do

非中心t分布

to do

F分布

to do

非中心F分布

to do

对数正态分布

to do

逆高斯分布

to do

非中心$\chi^2$分布

to do

韦布尔分布

to do

拉普拉斯分布

to do

瑞利分布

to do

帕雷托分布

to do

极值分布

to do

逻辑斯谛分布

to do

B分布(贝塔分布)

to do

柯西分布

to do