摘要： 看到一篇不错的介绍最小二乘法的博客，其中有个idea很不错，在拟合线性函数的时候，求得的函数跟真实函数或者真实数据之间或多或少都会有一个误差。 图中红色直线就是我们求得的线性函数。 为了表示拟合的函数跟真实数据之间的误差，在函数后面添加了个误差项μ 为了使这个总体误差最小，用残差平方和来表示： 则通 阅读全文

摘要： 统计学习方法由三个要素组成：方法=模型+策略+算法 模型是针对具体的问题做的假设空间，是学习算法要求解的参数空间。例如模型可以是线性函数等。 策略是学习算法学习的目标，不同的问题可以有不同的学习目标，例如经验风险最小化或者结构风险最小化。 经验风险最小化中常见的损失函数有：0-1损失函数、残差损失函 阅读全文