摘要：
为什么采用平方和作为错误估计函数，不是不是绝对值或者4次方之类。 假设根据特征的预测结果跟实际结果之间有误差，误差为，那么真实值跟预测值之间有如下关系： 这个i指的是每一个训练数据。 对于误差，前面提到过图像产生的误差，根据中心极限定理，一般的误差服从正态分布。 假设误差服从，则 即： 上式是θ是参数，是y在x下的条件概率。 这个也就转化成了，我们已经知道了试验结果，就是知道... 阅读全文
摘要：
继续上一篇的问题，我们采用另外一种方法，采用矩阵的方式重新定义了最小二乘法。在说这个方法之前，先看看这个矩阵怎么个定义法。我们知道标量y对矩阵X的导数如下：好，我们就根据课文中，对矩阵A求导。然后给出了一个例子：则然后根据矩阵迹的概念对于矩阵的迹有以下性质：紧接着可以得到下面一些性质，作者给出，没有证明下面我们重新定义训练数据，定义成矩阵的形式。每一行为一个训练数据，x为列向量结果也用向量表示:由于，则我们对于一个向量z，我们有，则这样我们通过这种形式又得到了J，我们的目的也就是使J最小。好，我们根据上面公式的（2）和（3），我们可以得到因此，有：要求最小的J，我们就令上式为0向量。则，即这边 阅读全文
摘要：
这些天在写前几个月学习的三维重建方面的知识的同时，也开始学习着目前比较火的深度学习。学习这个不是跟着潮流，总是在想读研到底学到了什么。 我想也就是个自学能力吧。其实感觉自己反而有点不自信了，本科毕业什么都不担心，可是现在担心的越来越多，人也慢慢变得浮躁起来，嗨，不多说了，写一写这两天学到的东西，唯有写点东西才感觉心里上的踏实。 主要参考吴恩达cs229课程 作者给出问题的引入是房价的问题，房... 阅读全文