摘要：一、纲要 支持向量机基础及优化目标 支持向量机的直观理解 核函数 二、内容详述 1、支持向量机基础以及优化目标 支持向量机(Support Vector Machine)与逻辑回归和神经网络相比，在学习复杂的非线性方程时提供了一种更为清晰，更为强大的方式。这部分我们就从逻辑回归一点点修改来得到本质上 阅读全文

摘要：一、纲要 线性回归的正规方程解法 局部加权线性回归 二、内容详述 1、线性回归的正规方程解法 线性回归是对连续型的数据进行预测。这里讨论的是线性回归的例子，对于非线性回归先不做讨论。这部分内容我们用的是正规方程的解法，理论内容在之前已经解释过了，正规方程为θ = (XT·X)-1·XT·y。值得注意 阅读全文

摘要：当看到这部分内容的时候我是激动的，因为它终于能跟我之前学习的理论内容联系起来了，这部分内容就是对之前逻辑回归理论部分的代码实现，所以如果有不甚理解的内容可以返回对照着理论部分来理解，下面我们进入主题 logistic regression 一、sigmoid函数 在之前的理论部分我们知道，如果我们需 阅读全文

摘要：决策树原理：从数据集中找出决定性的特征对数据集进行迭代划分，直到某个分支下的数据都属于同一类型，或者已经遍历了所有划分数据集的特征，停止决策树算法。 每次划分数据集的特征都有很多，那么我们怎么来选择到底根据哪一个特征划分数据集呢？这里我们需要引入信息增益和信息熵的概念。 一、信息增益 划分数据集的原 阅读全文