随笔分类 - 数学知识
摘要：转载：https://blog.csdn.net/pengchengliu/article/details/80932232 梯度下降算法的公式非常简单，”沿着梯度的反方向（坡度最陡）“是我们日常经验得到的，其本质的原因到底是什么呢？为什么局部下降最快的方向就是梯度的负方向呢？也许很多朋友还不太清楚
阅读全文
摘要：参考：https://zhuanlan.zhihu.com/p/392808684 1、比较通俗地讲解一下泰勒公式是什么。 泰勒公式，也称泰勒展开式。是用一个函数在某点的信息，描述其附近取值的公式。如果函数足够平滑，在已知函数在某一点的各阶导数值的情况下，泰勒公式可以利用这些导数值来做系数，构建一个
阅读全文
摘要：参考：https://baike.baidu.com/item/%E6%B3%B0%E5%8B%92%E5%85%AC%E5%BC%8F/7681487?fr=aladdin 1、泰勒公式定义：是一个用函数在某点的信息描述其附近取值的公式。如果函数满足一定的条件，泰勒公式可以用函数在某一点的各阶导数
阅读全文
摘要：参考：https://zhuanlan.zhihu.com/p/363627734 向量间的方向可以使用它们之间的夹角表示。我们先看一个线性空间 的例子（2维空间是最简单的多维空间，2维空间的结论基本上都可以推广到多维空间），假设 为两个2维向量，则在2维平面上 可以用两条发自原点的有向线段表示，见
阅读全文
摘要：参考：https://zhuanlan.zhihu.com/p/269232332 在线性回归的正交方程 ( Normal Equation ) 推导一文中提到使用 向量投影 的方法一步就能推导出 正交方程。从向量投影的角度，体现 线性回归 的本质。 预备知识：向量投影 平面A由基向量 所张成（Sp
阅读全文
摘要：参考：https://zhuanlan.zhihu.com/p/145706435 首先明确几个定义：(1) 超平面是指n维线性空间中维度为n-1的子空间。它可以把线性空间分割成不相交的两部分。比如二维空间中，一条直线是一维的，它把平面分成了两块；三维空间中，一个平面是二维的，它把空间分成了两块。(
阅读全文
摘要：参考：https://www.zhihu.com/question/40049682/answer/1420483558 分两种情况： 一、行 X 列 就是它长度的平方。 二、列 X 行 通常对它进行一下处理（归一化）： 对任意一个向量 b , 它投影到 a 上的向量一定是： 关于列 X 行 的投影
阅读全文
摘要：转载自：https://www.zhihu.com/question/20473040/answer/102907063 https://blog.csdn.net/yangpan011/article/details/79461846 https://www.zhihu.com/question/
阅读全文
