09 2017 档案

常用矩阵导数公式
摘要：1 矩阵Y=f(x)对标量x求导 矩阵Y是一个m×n的矩阵，对标量x求导，相当于矩阵中每个元素对x求导\[\frac{dY}{dx}=\begin{bmatrix}\dfrac{df_{11}(x)}{dx} & \ldots & \dfrac{df_{1n}(x)}{dx} \\ \vdots & \ddots &\vdots \\ \dfrac{df_{m1... 阅读全文

posted @ 2017-09-24 18:57 迈克老狼2012 阅读(17778) 评论(0) 推荐(4) 编辑

最小二乘法小结
摘要：原帖地址：http://www.cnblogs.com/pinard/p/5976811.html 最小二乘法是用来做函数拟合或者求函数极值的方法。在机器学习，尤其是回归模型中，经常可以看到最小二乘法的身影，这里就对最小二乘法的认知做一个小结。1.最小二乘法的原理与要解决的问题 最小二乘法是由勒让德在19世纪发现的，原理的一般形式很简单，当然发现的过程是非常艰难的。形式如下式： ... 阅读全文

posted @ 2017-09-23 13:47 迈克老狼2012 阅读(699) 评论(0) 推荐(0) 编辑

梯度下降（Gradient Descent）小结
摘要：原帖地址: http://www.cnblogs.com/pinard/p/5970503.html 在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降法（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。 1. 梯度 在微积分里面，对多元函数的参数求偏导数，把求得的各个参数的偏导数以向量... 阅读全文

posted @ 2017-09-20 12:05 迈克老狼2012 阅读(1424) 评论(0) 推荐(0) 编辑

导航

< 2025年3月 >
日 一 二 三 四 五 六
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示