摘要：
1 图论概述 1.1 发展历史 第一阶段： 1736：欧拉发表首篇关于图论的文章，研究了哥尼斯堡七桥问题，被称为图论之父 1750：提出了拓扑学的第一个定理，多面体欧拉公式：V-E+F=2 第二阶段（19~20世纪）： 1852: Francis Guthrie提出四色问题 1856: Thomas 阅读全文
摘要：
1, 神经元（Neuron） $ y = f(w_1*x_1 + w_2*x_2 + ... + b) $ f is activation function Sigmoid function (两端饱和的函数) Logistic function: $\sigma(x) = \frac{1}{1+e 阅读全文
摘要：
函数库接口标准：BLAS (Basic Linear Algebra Subprograms)和LAPACK (Linear Algebra PACKage) 1979年，Netlib首先用Fortran实现基本的向量乘法、矩阵乘法的函数库（该库没有对运算做过多优化）。后来该代码库对应的接口规范被称 阅读全文
摘要：
PGM是现代信号处理（尤其是机器学习）的重要内容。 PGM通过图的方式，将多个随机变量之前的关系通过简洁的方式表现出来。因此PGM包括图论和概率论的相关内容。 PGM理论研究并解决三个问题： 1）表示（如何通过图来刻画多个随机变量之间的关系）（注：这个是PGM的基础） 2）学习（如何通过已知数据来确 阅读全文
摘要：
针对实数函数的分析理论 首先引入集合和映射的概念 集合交，并，差。 集合的势：有限集，无限集（可列，不可列） 再考虑实数点集 点集 { x | b < x < a } 被称为开区间 包含点x的开区间被称为点x的邻域 点集A的极限点的集合称为A的导集A' 集合A的闭包 $\bar{A}=A \cup 阅读全文
摘要：
可测空间（Measurable Space）和测度空间（Measure Space） 集合X，X上的一个σ-algebra A，则（X，A）被称为可测空间（measurable space） 再在A上定义一个测度μ，则（X，A，μ）被称为测度空间（measure space） 概率空间（Probab 阅读全文
摘要：
大数定律 Law of large numbers (LLN) 虽然名字是 Law，但其实是严格证明过的 Theorem weak law of large number (Khinchin's law) The weak law of large numbers: the sample avera 阅读全文
摘要：
连续（Continuity） 弱 > 强 continuity -> uniform continuity -> absolute continutiy -> Lipschitz Continuity 连续函数 一致连续 绝对连续 李普希兹连续 $1/x$ $\sqrt x$ 【uniform co 阅读全文
摘要：
【范数定义】 非负实值函数（非线性） 1）非负性： || a || >= 0 2）齐次性： || ka || = |k| ||a|| 3）三角不等式： || a + b || <= || a || + || b || 注：完备的线性赋范空间称为巴拿赫空间（Banach Space） 【向量范数】 l 阅读全文