摘要:本文主要介绍概率与数理统计中的一些常见的基本概念。样本空间对于随机试验,尽管在每次试验之前不能预知试验的结果,但是试验的所有可能结果集合是已知的,我们将随机试验E的所有可能的结果组成的集合称为E的样本空间,记为S。样本空间的的元素,即E的每个可能结果,称为样本点。比如事件E:抛一枚硬币,观察正面H,...
阅读全文
随笔分类 - 数学分析
摘要:本文主要介绍学习机器学习过程中涉及到的一些微积分的基本概念,也包括部分数值分析,优化求解的概念。极限(limit)直观定义当函数 在 的某个去心邻域内有定义,若当 “无限趋近于” 时,其对应的函数值 “无限趋于” 一个确定的常数...
阅读全文
摘要:拉格朗日乘子法(Lagrange Multiplier)和KKT(Karush-Kuhn-Tucker)条件是求解约束优化问题的重要方法,在有等式约束时使用拉格朗日乘子法,在有不等约束时使用KKT条件。前提是:只有当目标函数为凸函数时,使用这两种方法才保证求得的是最优解。对于无约束最优化问题,有很多...
阅读全文
摘要:-------------------------------------------------------------------------------转载请注明出处 博客园 刺猬的温驯本文链接http://www.cnblogs.com/chenying99/p/4966005.html
阅读全文
摘要:拉格朗日乘子(Lagrange Multipliers)又称为待定乘数法(Undetermined Multipliers),通常用来寻找某一函数在一个或多个约束条件下的最值点。其主要思想是引入一个新的变量λ(即拉格朗日乘子),把约束条件和原函数结合到一起,形成新的函数,这个新的函数的最值点与原函数...
阅读全文
摘要:爱利亚的芝诺为了捍卫他老师巴门尼德关于“存在”不动、是一的学说,提出了著名的运动悖论和多悖论,以表明运动和多是不可能的。他的结论在常人看来当然很荒谬,但他居然给出了乍看起来颇令人信服的论证,故人们常常称这些论证构成了悖论或佯谬。不过,若细细推敲,其结论未必荒谬,其论证未必令人信服,故中性的称这些论证...
阅读全文
摘要:多年来,我都对戈特弗里德·莱布尼茨很感兴趣,尤其是因为早在3个世纪以前,他就似乎想要制造一种类似Mathematica和Wolfram Alpha的工具,没准还可能会写本《一种新科学》。所以,在最近一次德国之旅中,我对能够拜访坐落在汉诺威的莱布尼茨文献馆感到兴奋不已。翻阅着他发黄的手稿(仍旧够挺,经...
阅读全文
摘要:十七世纪后期,英国数学家牛顿和德国数学家莱布尼茨分别独立创建了微积分学,成为解决众多问题的重要而有力的工具,并在实际应用中获得了巨大成功,然而,微积分学产生伊始,迎来的并非全是掌声,在当时它还遭到了许多人的强烈攻击和指责,原因在于当时的微积分主要建立在无穷小分析之上,而无穷小后来证明是包含逻辑矛盾的...
阅读全文