04 2020 档案
发表于 2020-04-12 12:32阅读：142评论：0推荐：0
摘要：深度学习对所有参数进行梯度下降来优化参数，BP算法一种有效的方法 1、BP算法基础--链式法则 2、要求神经网络中某个参数w的偏导数 包括2部分，第一部分使用前向传输计算（即前向传输计算出来每个节点x的值），第二部分使用反向传输计算
阅读全文 »
发表于 2020-04-12 00:01阅读：184评论：0推荐：0
摘要：1、场景 根据用户的收入、贷款、年龄等特征 判断是否给用户发放贷款 根据病人的体检各项指标 判断是否患有癌症 各自手写字体的图片 判断是哪个字 2、求解方式 2.1 是否可以回归进行分类？ 答案肯定不可以， 原因一，如下图右图所示，使用回归方法来进行分类任务，效果不好（最好的效果应该是左图的那根线）
阅读全文 »
发表于 2020-04-11 21:26阅读：182评论：0推荐：0
摘要：1、背景 机器学习的error来自2类，一种是bias，一种是variance；优化的时候诊断error来自哪，就可以针对性进行优化 如下图： error来自bias时候，表示打靶的点的均值离靶心的距离； error来自variable表示打靶的点分布在均值的周围的离散程度。 high bias中心
阅读全文 »
发表于 2020-04-11 20:38阅读：226评论：0推荐：0
摘要：1、场景 a.根据历史的PM2.5值， 预测今天的PM2.5 b.根据历史A股上证指数点数，预测今天的上证指数 c.根据某个商品的销售量，预测未来一个月的销售量 2、求解方式 2.1 建模（function set） y = W * X + b 表示一个线性回归 2.2 Loss（定义functio
阅读全文 »
发表于 2020-04-06 21:29阅读：150评论：0推荐：0
摘要：1、理论基础 1.1 如下图所示，梯度下降就是找某个点附近使得loss最小值的参数 1.2 泰格公式 综上：为使Loss最小，应该使和和u，v的方向相反，值为圆圈半径。即为梯度下降方向 2、使用learning-rate进行梯度下降，调参learning-rate的方式是画出loss的变化图，如下。
阅读全文 »
发表于 2020-04-05 12:11阅读：0评论：0推荐：0
摘要：1、机器学习就是学习最佳的fucntion，实现从x预测y 2、对于输入的（x,y）,训练出来一些model，这些model function计算出来的y1,y2,y3... 均值为E（y1,y2,y3...）,即所有的预测输出值均在E（y1,y2,y3...）的周围（比如是射箭，虽然射出去的箭都是
阅读全文 »
发表于 2020-04-05 01:14阅读：0评论：0推荐：0
摘要：机器学习 监督学习 1、给与机器学习的目标，即需给输入和输出值 2、定义模型函数 3、定于模型的好坏，即损失函数 4、使用算法求最优模型函数 梯度下降w1 = w0 - (dL/dw)x 为什么是减号，比如dL/dw为负数，则增大x方向，w1才是减小的 增加正则项防止过拟合，正则项防过拟合原因是啥？
阅读全文 »
