3.4 概率密度估计的非参数方法

合集 - 模式识别 张学工 自学笔记(11)

1.2.2 最小错误率贝叶斯决策2024-01-082.2.3 最小风险贝叶斯决策2024-01-093.2.4 两类错误率、Neyman-Person决策与ROC曲线2024-01-144.2.7 离散时间样本训练的统计决策2024-02-155.2.8 统计决策方法总结2024-01-206.3.2 最大似然估计2024-01-207.3.3 贝叶斯估计与贝叶斯学习2024-01-30

8.3.4 概率密度估计的非参数方法2024-01-31

9.3.5 概率密度函数的估计总结2024-02-0410.4.2 贝叶斯网络的基本概念2024-02-1511.4.3 隐马尔可夫模型（HMM）2024-02-27

收起

参数估计和非参数估计的区别

参数估计是已知分布类型和部分分布参数后，从指定的一类函数中选择一个用于估计未知函数。参数估计要求的样本数目很少，但是对密度函数需要有先验认识。

非参数估计是在已知分布信息极其有限的情况下，从所有可能的函数中找出一个估计未知函数。非参数估计对样本数目需求较大，但只要保证样本数目足够大总能收敛。

直方图方法

特点：每个小窗/小舱等间隔

小窗：样本在取值范围内分成的可供随机向量落入的小区域

小舱：样本为多维向量时样本取值范围分割成的每个可落入随机向量的小体积，每个小舱的体积记为V

N总样本数

q落入每个小舱的样本数

概率密度 = 概率 / 体积

小舱的体积直接影响估计的效果，小舱内的样本数与小舱的体积和样本分布有关，为了更好的估计，需要采用能够根据样本分布情况调整小舱体积的方法。

KN 近邻估计法

特点：一种采用可变每个小舱的体积大小的小舱的密度估计法

操作：调整V直到符合kN再用上式估算密度

目的：调整V以兼顾在高密度区域估计的分辨率和在低密度区域估计的连续性

Parzen窗法(核密度估计)

暂时没搞明白