随笔分类 - Machine Learning and Optimization
摘要:def _reset_parameters(self): constant_(self.sampling_offsets.weight.data, 0) """初始化偏移量预测的偏置(bias), 使得初始偏移位置犹如不同大小的方形卷积核组合""" # (8,) [0, pi / 4, pi / 2
阅读全文
摘要:通透理解FlashAttention(含其2代和第3代):全面降低显存读写、加快计算速度-CSDN博客
阅读全文
摘要:本文摘自: (三十六)通俗易懂理解——ROI Align的基本原理及rpn与rcnn head锚框标签制作 - 知乎 (zhihu.com) 双线性插值(超级易懂的)_双线性内插法计算公式举例-CSDN博客
阅读全文
摘要:知乎:如何通俗地讲解 viterbi 算法? - 知乎 (zhihu.com) 知乎:维特比算法(viterbi)原理以及简单实现 - 知乎 (zhihu.com) 博客 动态规划dynamic programming 中的第二节最短路径问题,是一个很好的例子。
阅读全文
摘要:采样的定义: 我们知道了一个变量的分布,要生成一批样本服从这个分布,这个过程就叫采样。 采样本质上是对随机现象的模拟,根据给定的概率分布,来模拟产生一个对应的随机事件。 对于一个随机变量,通常用概率密度函数来刻画该变量的概率分布特性。具体来说,给定随机变量的一个取值,可以根据概率密度函数来计算该值对
阅读全文
摘要:本文所有内容都摘自吴军的《数学之美》
阅读全文
摘要:线性代数笔记3——向量2(点积) 线性代数笔记4——向量3(叉积)
阅读全文
摘要:通俗理解kaggle比赛大杀器xgboost (强烈推荐,该文中详细清晰的介绍了决策树、集成学习、Boosting、Bagging、Adaboost、GBDT、xgboost) Adaboost,按分类对错,分配不同的weight,计算cost function时使用这些weight,从而让“错分的
阅读全文
摘要:参考资料 如何解决数据不平衡问题? (总结的很好,强烈推荐) 样本不均衡及解决办法 (推荐) 极端类别不平衡数据下的分类问题研究综述 处理样本不均衡的8个方法 知乎:样本类别不平衡及其处理手段 分类样本不平衡问题 解决分类样本不平衡问题 ~ ML&DM面试高频问题 总结一下 从数据角度: 获取更多的
阅读全文
摘要:Noise Contrastive Estimation 前世今生——从 NCE 到 InfoNCE Noise Contrastive Estimation 随笔
阅读全文
摘要:参考: 知乎:什么是协变量以及协变量的定义是什么 什么是协变量Covariate? 第一种理解 例1 我想知道温度对于降水量的影响,但是海拔高度、经纬度、当地湿度等变量也会影响降水量。那么,在我的研究中,温度就是自变量,降水量是因变量,而海拔高度、经纬度和当地湿度就是协变量。 例2 我想知道年龄对身
阅读全文
摘要:本文内容摘自《概率论与数理统计》黄清龙等编著 北京大学出版社
阅读全文
摘要:知乎:支持向量机(SVM)——原理篇 简书:SVM算法原理
阅读全文
摘要:one-vs-all classifier和one-vs-one classifier
阅读全文