摘要：一、逻辑回归的局限 在逻辑回归一节中，使用逻辑回归的多分类，实现了识别20 20的图片上的数字。 但所使用的是一个一阶的模型，并没有使用多项式，为什么？ 可以设想一下，在原有400个特征的数据样本中，增加二次、三次、四次多项式，会是什么情形？ 很显然，训练样本的特征数量将会拔高多个数量级，而且，更重 阅读全文

摘要：一、支持向量机（SVM） 支持向量机，是用于解决分类问题。为什么叫做支持向量机，后面的内容再做解释，这里先跳过。 在之前 "《逻辑回归》" 的文章中，我们讨论过，对于分类问题的解决，就是要找出一条能将数据划分开的边界。 对于不同的算法，其定义的边界可能是不同的，对于SVM算法，是如何定义其边界的？其 阅读全文

摘要：欠拟合、过拟合 用线性回归拟合曲线，或者用逻辑回归确定分类边界时，选择的曲线有多种。 以分类问题为例，给定如下样本： 所取的边界，可以是这样（当然并不止这些）： 不同曲线，对于样本的表达能力，各不相同，上图的几根曲线中： 曲线1，使用一阶曲线，即直线模型，过于简单，出现大量的错误分类，此时的误差较大 阅读全文

摘要：分类 分类应是极为常见的问题，我们生活周边的一切事物，皆是类别分明。机器学习领域，处理分类问题的方法有多种，如逻辑回归、支持向量机、以及无监督学习的K mean等等。本文主要介始逻辑回归。 逻辑回归 逻辑回归，主要用于解决分类问题，例如二分类。 对于二分类问题，通过给出的样本$（x,y）$（若为二分 阅读全文

摘要：一、预测 先来看看这样一个场景： 假如你手头有一套房子要出售，你咨询了房产中介。中介跟你要了一系列的数据，例如房子面积、位置、楼层、年限等，然后进行一系列计算后，给出了建议的定价。 房产中介是如何帮你定价的？ “中介”通过他多年的“从业”经验，知道哪些因素会影响房子的价格，且知道各自的“影响”有多大 阅读全文