怎么来理解伽玛(gamma)分布?
Gamma分布即为多个独立且相同分布(iid)的指数分布变量的和的分布。
(最新修改,希望能够行文布局更有逻辑)
——————泊松过程——————
指数分布和泊松分布的关系十分密切,是统计学中应用极大的两种分布。
其中泊松过程是一个显著应用。
泊松过程是一个计数过程,通常用于模拟一个(非连续)事件在连续时间中发生的次数。
为一个泊松过程,则其满足三个性质:
①
(t=0时什么都没发生)
②
(增量)之间互相独立:
扩展补充:
与
互相独立,且在计数过程中
![Pr(N(t+1)=n_{t+1}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})](http://zhihu.com/equation?tex=Pr%28N%28t%2B1%29%3Dn_%7Bt%2B1%7D%7CN%28t%29%3Dn_%7Bt%7D%2CN%28t-1%29%3Dn_%7Bt-1%7D%2C...%2CN%281%29%3Dn_%7Bi%7D%29)
![=Pr(N(t+1)=n_{t+1}|N(t)=n_{t})](http://zhihu.com/equation?tex=%3DPr%28N%28t%2B1%29%3Dn_%7Bt%2B1%7D%7CN%28t%29%3Dn_%7Bt%7D%29)
这是因为
![Pr(N(t+1)=n_{t+1}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})](http://zhihu.com/equation?tex=Pr%28N%28t%2B1%29%3Dn_%7Bt%2B1%7D%7CN%28t%29%3Dn_%7Bt%7D%2CN%28t-1%29%3Dn_%7Bt-1%7D%2C...%2CN%281%29%3Dn_%7Bi%7D%29)
![=Pr(N(t+1)=N(t)+n_{t+1}-n_{t}|N(t)=n_{t},N(t-1)=n_{t-1},...,N(1)=n_{i})](http://zhihu.com/equation?tex=%3DPr%28N%28t%2B1%29%3DN%28t%29%2Bn_%7Bt%2B1%7D-n_%7Bt%7D%7CN%28t%29%3Dn_%7Bt%7D%2CN%28t-1%29%3Dn_%7Bt-1%7D%2C...%2CN%281%29%3Dn_%7Bi%7D%29)
![=Pr(N(t+1)=n_{t+1}|N(t)=n_{t})](http://zhihu.com/equation?tex=%3DPr%28N%28t%2B1%29%3Dn_%7Bt%2B1%7D%7CN%28t%29%3Dn_%7Bt%7D%29)
③![Pr(N(t+s)-N(s)=n)=Pr(N(t)=n)=e^{-\lambda t} \frac{(\lambda t )^{n}}{n!}](http://zhihu.com/equation?tex=Pr%28N%28t%2Bs%29-N%28s%29%3Dn%29%3DPr%28N%28t%29%3Dn%29%3De%5E%7B-%5Clambda+t%7D+%5Cfrac%7B%28%5Clambda+t+%29%5E%7Bn%7D%7D%7Bn%21%7D)
即![N(t) \sim Poi(\lambda t)](http://zhihu.com/equation?tex=N%28t%29+%5Csim+Poi%28%5Clambda+t%29)
根据增量独立性,易知其成立。
——————泊松→指数——————
假设
为第
次事件与第
次事件的间隔时间。
![Pr(T_{1}>t)=Pr(N(t)=0)=e^{-\lambda t}](http://zhihu.com/equation?tex=Pr%28T_%7B1%7D%3Et%29%3DPr%28N%28t%29%3D0%29%3De%5E%7B-%5Clambda+t%7D)
所以![T_{1} \sim Exp(\lambda)](http://zhihu.com/equation?tex=T_%7B1%7D+%5Csim+Exp%28%5Clambda%29)
![Pr(T_{i}>t|T_{i-1}=s)=Pr(N(t+s)-N(s)=0)=e^{-\lambda t}](http://zhihu.com/equation?tex=Pr%28T_%7Bi%7D%3Et%7CT_%7Bi-1%7D%3Ds%29%3DPr%28N%28t%2Bs%29-N%28s%29%3D0%29%3De%5E%7B-%5Clambda+t%7D)
所以![T_{i} \sim Exp(\lambda)](http://zhihu.com/equation?tex=T_%7Bi%7D+%5Csim+Exp%28%5Clambda%29)
即泊松过程的事件间隔时间为指数分布。
——————指数→Gamma—————
再令
,即从头开始到第
次事件的发生的时间,该随机变量分布即为Gamma分布。
即
。
Gamma分布即为多个独立且相同分布(iid)的指数分布变量的和的分布。
——————证明——————
假设
且互相独立
①Moment Generating Function(MGF):
MGF的定义为![M_{X}(t)=E[e^{tX} ]=1+tX+\frac{t^{2}X^{2}}{2!} +\frac{t^{3}X^{3}}{3!}+...\frac{t^{n}X^{n}}{n!}+...](http://zhihu.com/equation?tex=M_%7BX%7D%28t%29%3DE%5Be%5E%7BtX%7D+%5D%3D1%2BtX%2B%5Cfrac%7Bt%5E%7B2%7DX%5E%7B2%7D%7D%7B2%21%7D+%2B%5Cfrac%7Bt%5E%7B3%7DX%5E%7B3%7D%7D%7B3%21%7D%2B...%5Cfrac%7Bt%5E%7Bn%7DX%5E%7Bn%7D%7D%7Bn%21%7D%2B...)
则![E[X^{n}]=M_{X}^{(n)} (0)=\frac{d^{n}M_{X}(t)}{dt} |_{t=0}](http://zhihu.com/equation?tex=E%5BX%5E%7Bn%7D%5D%3DM_%7BX%7D%5E%7B%28n%29%7D+%280%29%3D%5Cfrac%7Bd%5E%7Bn%7DM_%7BX%7D%28t%29%7D%7Bdt%7D+%7C_%7Bt%3D0%7D)
其性质为![M_{X+Y}(t)=M_{X}(t)\times M_{Y}(t)](http://zhihu.com/equation?tex=M_%7BX%2BY%7D%28t%29%3DM_%7BX%7D%28t%29%5Ctimes+M_%7BY%7D%28t%29)
下证:
![X_{i} \sim Exp(\lambda)\Leftrightarrow M_{X_{i}}(t)=(1-\frac{t}{\lambda} )^{-1}](http://zhihu.com/equation?tex=X_%7Bi%7D+%5Csim+Exp%28%5Clambda%29%5CLeftrightarrow+M_%7BX_%7Bi%7D%7D%28t%29%3D%281-%5Cfrac%7Bt%7D%7B%5Clambda%7D+%29%5E%7B-1%7D)
![S=\sum_{i=1}^{n}{X_{i}}](http://zhihu.com/equation?tex=S%3D%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%7BX_%7Bi%7D%7D)
则![M_{S}(t)=\prod_{i=1}^{n} M_{X_{i}}(t)=\prod_{i=1}^{n} (1-\frac{t}{\lambda} )^{-1}=(1-\frac{t}{\lambda} )^{-n}](http://zhihu.com/equation?tex=M_%7BS%7D%28t%29%3D%5Cprod_%7Bi%3D1%7D%5E%7Bn%7D+M_%7BX_%7Bi%7D%7D%28t%29%3D%5Cprod_%7Bi%3D1%7D%5E%7Bn%7D+%281-%5Cfrac%7Bt%7D%7B%5Clambda%7D+%29%5E%7B-1%7D%3D%281-%5Cfrac%7Bt%7D%7B%5Clambda%7D+%29%5E%7B-n%7D)
为Gamma分布的MGF。
MGF:Moment-generating function
②数学归纳法:
已知![Gamma(1,\lambda)=Exp(\lambda)](http://zhihu.com/equation?tex=Gamma%281%2C%5Clambda%29%3DExp%28%5Clambda%29)
所以当
时成立。
假设
时
成立
当
时,
![S_{k+1}=S_{k}+X_{k+1}](http://zhihu.com/equation?tex=S_%7Bk%2B1%7D%3DS_%7Bk%7D%2BX_%7Bk%2B1%7D)
其中![S_{k} \sim Gamma(k,\lambda), X_{k+1} \sim Exp(\lambda)](http://zhihu.com/equation?tex=S_%7Bk%7D+%5Csim+Gamma%28k%2C%5Clambda%29%2C+X_%7Bk%2B1%7D+%5Csim+Exp%28%5Clambda%29)
![Pr(S_{k+1}=x)](http://zhihu.com/equation?tex=Pr%28S_%7Bk%2B1%7D%3Dx%29)
![=\int_{0}^{x} Pr(S_{k}=y)Pr(X_{k+1}=x-y)dy](http://zhihu.com/equation?tex=%3D%5Cint_%7B0%7D%5E%7Bx%7D+Pr%28S_%7Bk%7D%3Dy%29Pr%28X_%7Bk%2B1%7D%3Dx-y%29dy)
![=\int_{0}^{x} \frac{\lambda^{k}}{\Gamma (k)} y^{k-1}e^{-\lambda y}\times \lambda e^{-\lambda (x-y)}dy](http://zhihu.com/equation?tex=%3D%5Cint_%7B0%7D%5E%7Bx%7D+%5Cfrac%7B%5Clambda%5E%7Bk%7D%7D%7B%5CGamma+%28k%29%7D+y%5E%7Bk-1%7De%5E%7B-%5Clambda+y%7D%5Ctimes+%5Clambda+e%5E%7B-%5Clambda+%28x-y%29%7Ddy)
![=\frac{\lambda^{k+1}}{\Gamma (k)}e^{-\lambda x}\int_{0}^{n} y^{k-1}dy](http://zhihu.com/equation?tex=%3D%5Cfrac%7B%5Clambda%5E%7Bk%2B1%7D%7D%7B%5CGamma+%28k%29%7De%5E%7B-%5Clambda+x%7D%5Cint_%7B0%7D%5E%7Bn%7D++y%5E%7Bk-1%7Ddy)
![=\frac{\lambda^{k+1}}{\Gamma (k)}e^{-\lambda x} \frac{y^{k}}{k}|_{y=0}^{n}](http://zhihu.com/equation?tex=%3D%5Cfrac%7B%5Clambda%5E%7Bk%2B1%7D%7D%7B%5CGamma+%28k%29%7De%5E%7B-%5Clambda+x%7D+%5Cfrac%7By%5E%7Bk%7D%7D%7Bk%7D%7C_%7By%3D0%7D%5E%7Bn%7D+)
![=\frac{\lambda^{k+1}}{\Gamma (k+1)}x^{k}e^{-\lambda x}](http://zhihu.com/equation?tex=%3D%5Cfrac%7B%5Clambda%5E%7Bk%2B1%7D%7D%7B%5CGamma+%28k%2B1%29%7Dx%5E%7Bk%7De%5E%7B-%5Clambda+x%7D+)
为
的pdf。证毕。
当然,Gamma分布与Beta,Chi-square分布也有着十分紧密的联系,不过在统计学应用中都不如与指数分布的联系来得重要。
作者:T Yuan
链接:https://www.zhihu.com/question/34866983/answer/60541847
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
(最新修改,希望能够行文布局更有逻辑)
——————泊松过程——————
指数分布和泊松分布的关系十分密切,是统计学中应用极大的两种分布。
其中泊松过程是一个显著应用。
泊松过程是一个计数过程,通常用于模拟一个(非连续)事件在连续时间中发生的次数。
①
②
扩展补充:
这是因为
③
即
根据增量独立性,易知其成立。
——————泊松→指数——————
假设
所以
所以
即泊松过程的事件间隔时间为指数分布。
——————指数→Gamma—————
再令
即
Gamma分布即为多个独立且相同分布(iid)的指数分布变量的和的分布。
——————证明——————
假设
①Moment Generating Function(MGF):
MGF的定义为
则
其性质为
下证:
则
为Gamma分布的MGF。
MGF:Moment-generating function
②数学归纳法:
已知
所以当
假设
当
其中
为
当然,Gamma分布与Beta,Chi-square分布也有着十分紧密的联系,不过在统计学应用中都不如与指数分布的联系来得重要。
作者:T Yuan
链接:https://www.zhihu.com/question/34866983/answer/60541847
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
posted on 2016-03-11 09:25 JustForCS 阅读(20308) 评论(0) 编辑 收藏 举报