摘要:
小球搜寻下坡最快的例子 成本函数为 C(w,b),为了取得L的最小值,采取朝着梯度方向的逐步逼近的策略,称为梯度下降,下面再介绍下它的具体实施步骤。 如下方所示的小球,位于v1, v2 空间中,图示位置所处的成本值还是比较大的,为了逐步减小, 让小球在 v1 和 v2 方向分别移动一定距离 ,那么它 阅读全文
摘要:
1回归分析 回归分析(regression analysis)是确定两种或两种以上变量间相互依赖的定量关系的一种方法,是机器学习中重要的一个模块,在sklearn机器学习库中有广泛的算法实现,如OLS(最小二乘性:能很好地解决特征间无线性相关性的问题),脊回归等。 2多元回归 回归分析按照涉及的变量 阅读全文
摘要:
泛化能力 泛化能力(generalization),学得的模型适用于新样本的能力,是非常重要的能力。 引起泛化能力不足的一个原因是过拟合,过拟合导致在测试集上变现非常好,但是在新来的数据集上表现非常差。 归纳偏好 归纳偏好(inductive bias),机器学习算法在学习过程中对某种类型假设的偏好 阅读全文
摘要:
数据集(data set) 记录的集合,假如我们用3个特征,分别为色泽,根蒂,响声来描述西瓜的特点,并且拿到了基于这3个特征的10万条记录,其中一条记录的取值为: 色泽=光亮,根蒂=坚硬,响声=清亮 如果记录到.csv文件中,这个文件的结构可以记为: fruit[100000][3] ,这样一个二维 阅读全文