随笔分类 - 数学基础：线性代数、概率论与数理统计、高数
摘要：一、信息熵 百科：信息熵 衡量信息的不确定度； 1）理论提出 信息论之父 C. E. Shannon 指出：任何信息都存在冗余，冗余大小与信息中每个符号（数字、字母或单词）的出现概率或者说不确定性有关。 信息论之父 C. E. Shannon 指出：任何信息都存在冗余，冗余大小与信息中每个符号（数字
阅读全文
摘要：一、导数 # 参考百科：导数 定义：当函数 y = f(x) 的自变量x在一点 x0 上产生一个增量 Δx 时，函数输出值的增量 Δy 与自变量增量 Δx 的比值在 Δx 趋于 0 时的极限 a 如果存在，a 即为在 x0 处的导数，记作 f'(x0) 或 df(x0) / dx； 一个函数在某一点
阅读全文
摘要：1）逆矩阵：AB = BA = E，矩阵A、B均为方阵，E为单位矩阵，称A为可逆矩阵，B为A的逆矩阵； 2）方阵：n x n 的矩阵； 3）单位矩阵：一个对角为1，E[0, 0] = E[1, 1] = E[2, 2] = ... = E[n, n] = 1，其余元素为0； 4） 5）范数 || x
阅读全文
摘要：一、中位数 定义/解释：按顺序排列的一组数据中居于中间位置的数，即在这组数据中，有一半的数据比他大，有一半的数据比他小 # 如果观察值有偶数个，通常取最中间的两个数值的平均数作为中位数。 二、方差 参考百科：方差 1）定义 方差（variance)：是在概率论和统计方差衡量随机变量或一组数据时离散程
阅读全文
