混合高斯模型——学习笔记

极大似然估计与EM算法：

详解EM算法与混合高斯模型(Gaussian mixture model, GMM)_林立民爱洗澡-CSDN博客 https://blog.csdn.net/lin_limin/article/details/81048411

 

 

 GMM（高斯混合模型）以及简单实现_zjm750617105的专栏-CSDN博客 https://blog.csdn.net/zjm750617105/article/details/5243029

成分数的选择

在一个GMM里，BIC(Bayesian Information Criteria)准则是一种有效的成分数确定方法。注意，如果使用一个Variational Bayesian Gaussian mixture, 可以避免指定GMM的成分数。

AIC准则

AIC准则是由日本统计学家Akaike与1973年提出的，全称是最小化信息量准则（Akaike Information Criterion）。它是拟合精度和参数个数的加权函数： 
AIC=2（模型参数的个数）-2ln（模型的极大似然函数）

BIC准则

AIC为模型选择提供了有效的规则，但也有不足之处。当样本容量很大时，在AIC准则中拟合误差提供的信息就要受到样本容量的放大，而参数个数的惩罚因子却和样本容量没关系（一直是2），因此当样本容量很大时，使用AIC准则选择的模型不收敛与真实模型，它通常比真实模型所含的未知参数个数要多。BIC（Bayesian InformationCriterion）贝叶斯信息准则是Schwartz在1978年根据Bayes理论提出的判别准则，称为SBC准则(也称BIC)，弥补了AIC的不足。SBC的定义为： 
BIC = ln(n)(模型中参数的个数) - 2ln(模型的极大似然函数值)

【sklearn第十九讲】高斯混合模型_python_wong2016的博客-CSDN博客 https://blog.csdn.net/wong2016/article/details/81057023

二维高斯分布（Two-dimensional Gaussian distribution）的参数分析_林立民爱洗澡-CSDN博客 https://blog.csdn.net/lin_limin/article/details/81024228

 

公式推导：

高斯混合模型（GMM） - 知乎 https://zhuanlan.zhihu.com/p/30483076

高斯混合模型详细推导 - ~宁静致远~ - 博客园 https://www.cnblogs.com/ningjing213/p/10392175.html

高斯混合模型（GMM） - Mind Puzzle - 博客园 https://www.cnblogs.com/mindpuzzle/archive/2013/04/24/3036447.html

高斯混合模型 - 一抹烟霞 - 博客园 https://www.cnblogs.com/long5683/p/11402875.html

 

一文详解高斯混合模型原理 - 知乎 https://zhuanlan.zhihu.com/p/31103654

高斯混合模型以及EM算法的求解 - 简书 https://www.jianshu.com/p/e78152cb9332

【机器学习基础】EM算法_人工智能_Tuzi_bo的专栏-CSDN博客 https://blog.csdn.net/u010834867/article/details/90762296

 

可能相关：

GMR.m 免费开源代码阅读 开发,分享 - CodeForge.cn http://www.codeforge.cn/read/245438/GMR.m__html