摘要：支持向量机（SVM），作为一个分类模型，可以从两部分来理解： 1）线性问题 即求最优超平面：wTx+b=0。其中要求，向量集合被超平面没有错误地分开，并且离超平面最近的向量与之间距（称作间隔 margin margin）是最大的。所以，问题就转化为求max（2/||w||）,即min（||w||2/ 阅读全文

摘要：1、逻辑回归其实可以称之为广义的线性回归，采用和线性回归类似的模型。但是逻辑回归解决的是一个分类问题，因此会对求出的y值做一个sigmod函数映射，然后根据预先设定的阈值进行标签处理。其中，使用sigmod函数将θTx映射一个0-1之间的值，和深度学习中的sigmod或者relu函数作用类似。 2、 阅读全文

摘要：1、线性回归 y=θx+ε，其中y=[y1,y2,y3,...,yn]T，θ=[θ1,θ2,...]，x=[x1,x2,x3,...,xn]T，ε（残差）符合正态分布 那么对于该模型，就是在损失函数最小的前提条件下，寻找θ取值的过程。其中，损失函数采用最小二乘的方法。 2、对于求θ，有三种方法： 1 阅读全文