概率模型思考2
概率模型的范式是这样的:
1.根据抽样建立似然函数
2.对某个参数求偏导。(实际就是最大化似然函数)
3.代入实验数据求得参数。
注意到,
1.建立目标函数要根据抽样的频数,譬如根据硬币抽样结果,抽到A硬币还是B硬币,A硬币抛了几次正面,B硬币抛了几次正面,参数是A,B的抛正面率,建立似然函数。
2.对于复杂的情况可能要抛很多次。反正建立了数学模型之后,就是求解一个优化问题了。优化的过程未必能一下子就得到参数的解析式,复杂强大的函数就必须用迭代的方式来求。
3.特殊地,深度生成网络就是一种复杂的情况。考虑到逐层抽象的概念,会利用逐层训练。每次训练都是这样的范式:抽样-->建立似然函数-->优化
4.对于测试阶段,给定一个输入,最后的分类条件概率也是通过抽样得到的。