摘要：gamma分布的对数期望 这个问题，是太简单了吗？为什么互联网上找不到答案？ 哦，通过Google找到一个：https://qastack.cn/stats/370880/what-is-the-expected-value-of-the-logarithm-of-gamma-distributio 阅读全文

摘要：联合分布蕴含一切信息，但？ 但在实际计算时，并非如此。 我们总是喜欢解析的表达式，但从解析的联合分布并不一定能容易地得到解析的条件分布： \[ p(\theta|D)=\frac{p(\theta,D)}{p(D)}=\frac{p(D|\theta)p(\theta)}{\int p(D|\the 阅读全文

摘要：有了分布就能从分布中采样吗？ 我能想到两种办法： 经典的：如果我们会从均匀分布中采样，那样本点似乎经过$F^{-1}$的作用，就能变换到$F$​的分布中，完事儿。理论上如此，但$p(x)$解析的时候，$F(x)$是不是不一定解析啊，那该如何办呢？实际操作的时候是不是有数值上的近似？ 我想的：如果我们 阅读全文

摘要：既然总是要加正则的，那为什么不直接用贝叶斯？ 我记得以前总是诟病贝叶斯的先验很“主观”，不够数学。但逐渐发现ML或现代统计学中的一些方法明明就是很主观，但是很有效。而且最开始的经典模型里面，也加入了所谓的惩罚项或者正则项。 而我们知道这等价于贝叶斯框架下的先验分布。 问题 也许是计算上的问题吧，理论 阅读全文

摘要：蒙特卡洛 假定需要的条件都满足，则有： \[ E_{p(x)}\left[f(X)\right] \approx \frac{1}{N}\sum f(x_i) \] 以前一直以为这是一种数值计算积分的思路，然后从黎曼和或者Lebesgue的角度去推，都不行，因为： \[ \begin{align} 阅读全文