随笔分类 - 数学
摘要：> 开始介绍之前还是老样子先吐槽一下教科书不说人话，喜欢端着，真是耽误了一群数学天才。 # 伯努利分布 伯努利分布很好理解，常见的例子就是抛硬币，假设硬币正面朝上的概率是 p，所以伯努利分布的**概率质量函数（probability mass function，简写作pmf**）是： > 注意区分概
阅读全文
摘要：什么是先验/后验概率 我们先给出一些符号定义，令$\theta$表示模型参数，$D$表示数据。 先验概率比较好理解，比如 $p(D)$就表示数据的先验概率（prior probability）。 但是在之前我经常搞不明白 $p(D|\theta)$ 和$p(\theta|D)$ 哪个才是后验概率（p
阅读全文
摘要：1. 矩阵的意义 这篇文章对矩阵的含义做了清晰的解释，以 $Ma=b$为例介绍矩阵M的含义 从变换的角度来说，矩阵M可以理解为对向量 a做变换得到了 b 从坐标系的角度来说，M可以理解成是一个坐标系（常用的坐标是笛卡尔坐标系，即 \(I\)），向量a就是在M这个坐标系下的坐标，a对应到$I$坐标系下
阅读全文
摘要：参考 https://ruder.io/optimizing-gradient-descent/ 。 本文不是简单地翻译，而是真的花了一天的时间和心思来写，这一过程中我也重新复习了一遍，而且对不太容易理解的地方都做了详细的解释和说明，如果看了本文还不清楚，那。。。那你就来我公众号后台私信我交流！！！
阅读全文
摘要：一、简单回顾DARTS 在介绍gumbel softmax之前，我们需要首先介绍一下什么是可微NAS。 可微NAS(Differentiable Neural Architecture Search, DNAS)是指以可微的方式搜索网络结构，比较经典的算法是DARTS，其算法示意图如下： 上图表示的
阅读全文
摘要：课程内容大纲： Resterization (光栅化)：将三维空间几何形体投影到平面 Curves and Meshes Ray Tracing (光线追踪) Animation / Simulation 课程主页： https://sites.cs.ucsb.edu/~lingqi/teachin
阅读全文
摘要：在学概率论时，常常会看到各种稀奇古怪的名字，有的书上只介绍了该如何求解，但是从不介绍为什么这么叫以及有什么用，本文就介绍一下 概率密度估计是什么以及是干什么用的 ,主要参考Jason BrownLee大神的一篇博文进行介绍。 后面部分名词会以英文缩写形式介绍，汇总如下： 概率密度 (probabil
阅读全文
摘要：图形学中中对于矩阵常涉及的操作有以下几种： 缩放 旋转 平移 在介绍为什么要引入齐次坐标之前先介绍这三个操作的线性代数的表达形式。为了说明方便以二维进行举例说明。 缩放 假设有一个向量为$[x1,y1]$,那么如果要使得沿着x轴和y轴方向分别伸缩$k_x,k_y$倍，写成矩阵的形式如下： $$ \b
阅读全文
摘要：乍看正定和半正定会被吓得虎躯一震，因为名字取得不知所以，所以老是很排斥去理解这个东西是干嘛用的，下面根据自己和结合别人的观点解释一下什么是正定矩阵(positive definite, PD) 和半正定矩阵(positive semi-definite, PSD)。 定义 首先从定义开始对PD和PS
阅读全文
摘要：相似矩阵(similar matrices) 定义 设$A,B$都是$n$阶矩阵，若有可逆矩阵$P$,使得$P^{ 1}AP=B$,则称$B$是$A$的相似矩阵。 两个相似矩阵的特征值相同，也就是说如果一个矩阵和一个对角矩阵$\Lambda$ $$ \left[\begin{array}{ccccc
阅读全文
摘要：在开始之前，我们需要明确 方程组可以转化成一组列向量的线性组合 。什么意思呢？我们以下面一个例子进行介绍： $$ x_1+2x_2+x_3 = 1 \\ 2x_1+3x_2+3x_3 = 3 \\ x_1+3x_2+x_3=3 $$ 可转化成如下形式： $$ \left(\begin{array}{
阅读全文
摘要：title: 凸优化学习笔记(1) 基础概念 tags: grammar_cjkRuby: true 基础定义 Affine & Convex 下面给出 Affine(仿射) 和 Convex(凸) 的定义(简单的记忆是将Affine类比成一条直线，而Convex则是一条线段): 令$S\subse
阅读全文
摘要：老是容易把先验概率,后验概率,似然概率混淆，所以下面记录下来以备日后查阅。区分他们最基本的方法就是看定义，定义取自维基百科和百度百科: 先验概率 百度百科定义：先验概率（prior probability）是指根据以往经验和分析得到的概率，如全概率公式，它往往作为"由因求果"问题中的"因"出现的概率
阅读全文
摘要：I. 仿射凸集(Affine and convex sets) 1. 线与线段 假设$R^n$空间内两点$x_1,x_2\, (x_1≠x_2)$,那么$y=\theta x_1+(1 \theta)x_2, \theta∈R$表示从x1到x2的线。而当$0≤\theta≤1$时，表示x1到x2的线
阅读全文
摘要："【Math for ML】矩阵分解(Matrix Decompositions) （上）" I. 奇异值分解(Singular Value Decomposition) 1. 定义 Singular Value Decomposition (SVD)是线性代数中十分重要的矩阵分解方法，被称为“ 线
阅读全文
摘要：原文链接: "奇异值分解(SVD)的计算方法" 奇异值分解是线性代数中一种重要的矩阵分解方法，这篇文章通过一个具体的例子来说明如何对一个矩阵A进行奇异值分解。 首先，对于一个m n的矩阵，如果存在正交矩阵U(m\ m阶)和V(n\ n阶)，使得(1)式成立： $$A=U \Sigma V^T \ta
阅读全文
摘要：I. 行列式(Determinants)和迹(Trace) 1. 行列式(Determinants) 为避免和绝对值符号混淆，本文一般使用$det(A)$来表示矩阵$A$的行列式。另外这里的$A∈R^{n×n}$默认是方阵，因为只有方阵才能计算行列式。 行列式如何计算的就不在这里赘述了，下面简要给出
阅读全文
摘要："理解矩阵(一)" "理解矩阵(一)" "理解矩阵(一)"
阅读全文
摘要：首先来总结一下前面两部分的一些主要结论： 1. 首先有空间，空间可以容纳对象运动的。一种空间对应一类对象。 2. 有一种空间叫线性空间，线性空间是容纳向量对象运动的。 3. 运动是瞬时的，因此也被称为变换。 4. 矩阵是线性空间中运动（变换）的描述。 5. 矩阵与向量相乘，就是实施运动（变换）的过程
阅读全文
摘要：I. 什么是矩阵 接着理解矩阵。 上一篇里说“矩阵是运动的描述”，到现在为止，好像大家都还没什么意见。但是我相信早晚会有数学系出身的网友来拍板转。因为运动这个概念，在数学和物理里是跟微积分联系在一起的。我们学习微积分的时候，总会有人照本宣科地告诉你，初等数学是研究常量的数学，是研究静态的数学，高等数
阅读全文
浙公网安备 33010602011771号