07 2013 档案

参数估计（2）：极大似然，最大后验，贝叶斯推断以及最大熵
摘要：“参数估计是…通过测量或经验数据来估计概率分布参数的数值”—Wikipedia如是说。可是我们最熟悉的最小二乘估计不是没有概率分布么？不，它实际上是高斯分布的估计—我在上一章如是说。绕过了这道坎，我们就能站在概率论的角度考虑问题了。 这时我们会发现各种各样的参数估计方法，例如极大似然估计、最大后验... 阅读全文

posted @ 2013-07-29 00:42 电子翔 阅读(7443) 评论(5) 推荐(1) 编辑

参数估计（1）：从最小二乘到最小b乘
摘要：机器学习到底学习到了什么，或者说“训练”步骤到底在做些什么？在我看来答案无非是：所谓的“学习”就是把大量的数据归纳到少数的参数中，“训练”正是估计这些参数的过程。所以，除了“参数估计”， 我想不到还有什么更适合用来首先讨论的了。1.起源“1801年，意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没有结果。时年24岁的高斯也计算了谷神星的轨道。奥地利天文学家海因里希·奥尔伯斯根据高斯计算出来的轨道 阅读全文

posted @ 2013-07-01 01:27 电子翔 阅读(3321) 评论(0) 推荐(1) 编辑

导航

< 2025年3月 >
日 一 二 三 四 五 六
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

统计

点击右上角即可分享
微信分享提示