摘要:
机器学习笔记(5)-线性分类 概述 在机器学习领域,分类的目标是指将具有相似特征的对象聚集。而一个线性分类器则透过特征的线性组合来做出分类决定,以达到此种目的。对象的特征通常被描述为特征值,而在向量中则描述为特征向量。 说人话就是在一个数据样本点上,能否找到一个线性组合来把样本点根据类别进行划分。 阅读全文
摘要:
机器学习笔记(4)-正则化 机器学习中的正则化通常是用来解决过拟合问题的。这一节我们来推导并解释一下正则化为什么可以解决这个问题。首先我们现来看一下上一节关于最小二乘法的解析式: \[ W^T=(X^TX)^{-1}X^TY \] 我们知道一个矩阵乘以它的转置是一个半正定矩阵,当$|X^TX|=0$ 阅读全文