带加权的贝叶斯自举法 Weighted Bayesian Bootstrap

在去年的文章中我们介绍过Bayesian Bootstrap，今天我们来说说Weighted Bayesian Bootstrap

Bayesian bootstrap

贝叶斯自举法（Bayesian bootstrap）是一种统计学方法，用于在缺乏先验知识的情况下对一个参数的分布进行估计。这种方法是基于贝叶斯统计学的思想，它使用贝叶斯公式来计算参数的后验分布。

在传统的非参数自举方法中，样本是从一个已知分布中抽取的，然后使用这些样本来估计这个分布的性质。然而，在实际问题中，我们通常无法获得这样的先验知识，因此需要使用其他方法来估计分布。

贝叶斯自举法是一种替代方法，它不需要先验知识，而是从样本中抽取子样本，然后使用这些子样本来构建一个后验分布。这个后验分布表示了给定这个样本，参数的可能取值。通过在这个分布上采样，可以产生类似于非参数自举的样本，然后可以使用这些样本来估计参数的性质。

与传统的自举方法相比，贝叶斯自举法可以提供更好的参数估计，特别是在样本较小或参数分布复杂的情况下。

我们从正态分布中抽取一些样本obs = ss.norm(0.1, 0.02).rvs(8)，查看贝叶斯自举法是如何执行的。如下图所示，即使对于这个微型样本，后验也是平滑的，并且包含了均值和标准差的真实值。

左:平均值和标准差的贝叶斯自举后验。右:不同集中度的平均值标准偏差的收敛。

完整文章

https://avoid.overfit.cn/post/8bffb6de8f6b470d9399fd54be44bb97