机器学习数学笔记|极大似然估计

机器学习数学笔记|极大似然估计

觉得有用的话,欢迎一起讨论相互学习~

本博客为七月在线邹博老师机器学习数学课程学习笔记
为七月在线打call!!
课程传送门

极大似然估计

• 假设D是样本集合,A是参数集合,我们在D样本集固定的情况下,A取何值时,P(A|D)能取到最大.

• 我们现在的主要目的是求1式的最大值,其中1式通过贝叶斯公式能转换为2式的形式,其中2式的分母相同,我们只需要考虑分子即可--即3式,又因为$P(A_{i})$近似相等.所以我们可以将3式中$P(A_{i})$去掉,直接考虑4式的最大值.
• 最后我们得到5式,这相当于是一种颠倒原因结果的式子.

定义

二项分布中的极大似然估计

高斯分布中的极大似然估计