摘要：
好文！http://blog.csdn.net/v_july_v/article/details/7624837 阅读全文
摘要：
注：此博文只是自己总结的笔记，参考很很多大牛的博客。 决策树算法之ID3算法 1.奥卡姆剃刀： 若有多个假设和观察值一致，则选择简单的那个。（be simple） 2.算法核心思想： 期望信息越小，信息增益越大，从而纯度越高。ID3算法以信息增益为度量选择，选择分裂后信息增益最大的属性进行分裂。所以 阅读全文
摘要：
梯度下降法 下面的h(x)是要拟合的函数，J(θ)损失函数，theta是参数，要迭代求解的值，theta求解出来了那最终要拟合的函数h(θ)就出来了。其中m是训练集的记录条数，j是参数的个数。 梯度下降法流程： （1）先对θ随机赋值，可以是一个全零的向量。 （2）改变θ的值，使J(θ)按梯度下降 阅读全文
摘要：
第一章.方法概论 <! more 1.监督学习：对任意给定输入，对其相应的输出做一个好的预测。 2.回归问题：输入变量与输出变量都为连续变量的预测问题。 分类问题：输入变量为有限个离散变量的预测问题。 标注问题：输入输出变量均为变量序列的预测问题。 3.概率模型： 由条件概率分布P(Y|X) 阅读全文