【497】多重求和
摘要：$$\begin{equation}\begin{split}\sum_{1 \le j,k \le n} {a_j b_k}& = (\sum_{j=1}^{n} {a_j})(\sum_{k=1}^{n} {b_k})\\\\& = \sum_{j=1}^{n} {a_j (\sum_{k=1}
阅读全文
posted @ 2020-10-27 09:32
随笔分类 - Study Materials / Advanced Math
【390】向量叉乘，判断向量位置
摘要：COMP9021作业引申的博客 1. 二维向量叉乘 参考：二维向量叉乘公式 a×b = (x1y2-x2y1) 参考：叉积（点线）判断法 （P叉乘Q）P^Q>0说明P在Q的顺时针方向，<0说明P在Q的逆时针方向，=0说明P和Q共线。 2. 判断点在多边形内部 参考：如何判定一点是否在给定顶点的不规则
阅读全文
posted @ 2019-04-11 12:59
【367】通过 python 实现 SVM 硬边界 算法
摘要：参考: 支持向量机整理 SVM 硬边界的结果如下: $$min \quad \frac{1}{2} \sum_{i=1}^m\sum_{j=1}^m \alpha_i\alpha_jy_iy_j \vec x_i \vec x_j - \sum_{i=1}^m\alpha_i\\s.t. \quad
阅读全文
posted @ 2019-02-03 15:42
【366】通过 python 求解 QP 问题
摘要：参考: 9.3 凸优化 · 如何在 Python 中利用 CVXOPT 求解二次规划问题 参考: Quadratic Programming - Official website 步骤如下: 首先安装 cvxopt library 将问题化成标准 QP 问题, 得到 P/q/G/h/A/b 直接利用
阅读全文
posted @ 2019-02-03 13:03
【365】拉格朗日乘子法与KKT条件说明
摘要：参考：知乎回答 - 通过山头形象描述 参考：马同学 - 如何理解拉格朗日乘子法？ 参考: 马同学 - 如何理解拉格朗日乘子法和KKT条件？ 参考：拉格朗日乘数 - Wikipedia 自己总结的规律 梯度为0, 其实就是说明里面每一个参数的偏导数都为0. 拉格朗日乘子法是对于等式约束. KKT条件是
阅读全文
posted @ 2019-02-01 15:20
【356】数理统计相关概念
摘要：术语 解释 加权平均 数学期望 一般地， 设 X 为随机变量， X 可能取许多数值， 这些取值以概率为权重的加权平均数，称为 X 的数学期望，记为 E X)．这里的符号“ E 含有加权平均的意思， 加权平均往往简称为平均， 因此数学期望又简称为期望或均值． 方差 方差是随机变量对其中心位置偏离平方的数学期望．简言之，方差是偏离平...
阅读全文
posted @ 2019-01-24 11:43
【355】线性代数相关概念
摘要：术语 解释 零矩阵 所有元素均为 0。 n 阶矩阵 矩阵的行、列数都是 n。也称 n 阶方阵。 上三角矩阵 在 n 阶矩阵中，若主对角线左下侧的元素全为 0。 下三角矩阵 在 n 阶矩阵中，若主对角线右上侧的元素全为 0。 对角矩阵 主对角线两侧的元素全为 0。 单位矩阵 主对角线上元素全为 1 的对角矩阵。 负矩阵 $(-1)...
阅读全文
posted @ 2019-01-22 09:56
【353】线性回归损失函数求导举例
摘要：参考：【351】实数对向量求导公式 参考：【352】矩阵转置性质 参考：机器学习实战教程（十一）：线性回归基础篇之预测鲍鱼年龄 其他方法可参考 回归算法之线性回归。 参考：通过一个例子快速上手矩阵求导 线性回归的损失函数如下：Eb=(Xb−y)T(Xb−y)
将转置
阅读全文
posted @ 2019-01-21 11:30
【352】矩阵转置性质
posted @ 2019-01-21 11:26
