12 2020 档案
摘要:梯度下降伪代码 梯度下降可以优化损失函数的值,使其尽量小,即可找到最好(在数据集上拟合效果最好)的模型参数。 现在假设模型f中只有一个参数w,则损失函数为L(f)=L(w),梯度下降算法如下(若模型有多个参数,按相同方法更新各参数) 初始化参数 随机选取一个w0(w0并不一定是随
阅读全文
摘要:本文为作者学习李宏毅机器学习课程时参照样例完成homework1的记录。 关注我的公众号:臭咸鱼,回复LHY可获取课程PPT、数据、笔记和代码下载链接。 代码仓库:chouxianyu/LHY_ML2020_Codes,里面除了代码还有数据、PPT、笔记等资源喔~ 任务描述(Task Descrip
阅读全文
摘要:交叉验证(Cross Validation) 在机器学习中,通常不能将全部数据用于模型训练,否则将没有数据集可以用来评估模型。 The Validation Set Approach 定义 将数据集划分成训练集(Training Set)和测试集(Test Set)两部分。 缺点 这种方法的缺点是依
阅读全文
摘要:欠拟合(Underfitting) 定义 Bias较大、Variance较小。 如果模型在训练集上的误差很大,则此时Bias是大的,情况为欠拟合。 Bias大时如何处理 使用更复杂的模型,比如添加考虑更多维度的输入、把线性模型换成非线性模型。 过拟合(Overfitting) 定义 Bias较小、V
阅读全文
摘要:模型选择(How to select model) 模型越复杂,一般其在训练集上的误差(Error)越小。 因为更复杂的模型(函数集)包含了更多的函数。比如二次模型包含了线性(一次)模型。 模型越复杂,其在测试集上的误差(Error)不一定越小。 因为模型过于复杂时,越容易被数据影响,可能导致过拟合
阅读全文
摘要:回归模型应用案例(Regression Cases) 股票市场预测(Stock Market Forecast) 预测某个公司明天的股票情况 自动驾驶车(Self-Driving Car) 预测方向盘转动角度 推荐系统(Recommendation) 预测某用户购买某商品的可能性 线性回归模型(Li
阅读全文
摘要:机器学习是什么 机器学习就是让机器能自动找到一个函数(function) 语音识别(Speech Recognition) 输入是音频,输出是音频对应的文字。 图像分类 输入是图片,输出是类别(比如猫、狗)。 AlphaGo下围棋 输入是当前棋盘的状态,输出是下一步落棋的位置。 对话/问答系统 机器
阅读全文