随笔分类 - 机器学习
摘要:梯度下降法可以进行一些优化以加快运行速度: 一,对数据源进行特征缩放 二,把批量梯度下降改为随机梯度下降或者小批量梯度下降 数据源(包括训练集的输入,训练集的输出,初始设置的超参数theta,预测集的输入) import numpy as np import random X = np.array(
阅读全文
摘要:上一节中的梯度下降法只能由于单自变量的线性回归任务,梯度下降法可以推广至任意多变量的线性回归任务,公式推导如下如 使用矩阵表达的公式在numpy库下代码非常简洁,其中X以二维ndarray对象输入,每一行代表一个样本,Y和theta以一维ndarray对象输入,以以下这个三变量线性回归为例子 imp
阅读全文
摘要:梯度下降法用于求函数的极小值,不一定是最小值 考虑一个单变量的线性回归问题,其中自变量x和因变量y的值如下: x = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10] y = [106000, 107200, 108400, 109600, 110800, 112000, 113
阅读全文