摘要：逻辑回归（Logistic Regression）是广义线性回归的一种。逻辑回归是用来做分类任务的常用算法。分类任务的目标是找一个函数，把观测值匹配到相关的类和标签上。比如一个人有没有病，又因为噪声的干扰，条件的描述的不够完全，所以可能不确定正确，还希望得到一个概率，比如有病的概率是80%。也即P( 阅读全文

摘要：一基本知识 A是一个m*n的矩阵，那么A的SVD分解为\(A_{mn} = U_{mm}\Sigma _{mn}V^T_{nn}\),其中\(U^TU = I\),\(V^TV = I\),UV的列向量是矩阵\(A^TA\)的特征向量，V的列向量是矩阵\(AA^T\)的特征向量，\(\Sigma\) 阅读全文

摘要：成本函数（cost function）也叫损失函数（loss function），用来定义模型与观测值的误差。模型预测的价格与训练集数据的差异称为残差（residuals）或训练误差（test errors）。 我们可以通过残差之和最小化实现最佳拟合，也就是说模型预测的值与训练集的数据最接近就是最佳 阅读全文