文章分类 - 机器学习
摘要:Gaussian Splatting 一、知识点 1. Paper 链接 https://repo-sam.inria.fr/fungraph/3d-gaussian-splatting/3d_gaussian_splatting_high.pdf 题外话 2. 架构图&对比图 2.1 架构图 2.
阅读全文
摘要:Informer 学习笔记 1. 什么是时间序列预测? 用例子来看比较好理解 符合一定时间规律的数据 2. 为什么是Informer? 背景图 2.1 几种简单任务 短序列预测 常用的 RNN 系列模型,可以很好的预测短期数据,比如利用 30 天数据,预测后 1-3 天的短期数据,但一旦需要预测的时
阅读全文
摘要:上一篇 -> 机器学习课程笔记 3。 0. 前情提要 0.1 Attention 注意力机制 0.2 Self-Attention Q、K、V 同源 0.3 Masked Self-Attention 为了弥补Self-Attention的缺点 前一序列输入并未得知后续有什么,所以为了更贴近实际,将
阅读全文
摘要:上一篇 -> 机器学习课程笔记 2。 第3讲 卷积神经网络 CNN 对于不同学习任务来说,图像并不是所有的信息都有用,所以 CNN 选择特征时使用不同大小的感受野去提取特征信息。 3.1 卷积层(感受野 + 参数共享) 感受野就是要对图像进行提取特征的那部分视野。 还需涉及其他概念 kernel_s
阅读全文
摘要:上一篇 -> 机器学习课程笔记 1.2。 第2讲 训练不如意的原因与处理 1. 局部最优解(local minima) 与 鞍点(saddle point) 训练到一定程度, loss 很大却不再下降 或者 一开始就 梯度很小, loss 几乎不下降。 两种基本原因 局部最优解(local mini
阅读全文
摘要:上一篇 -> 机器学习课程笔记 1.1。 第1讲 机器学习(Machine Learning, ML)简介 5. 对线性变换函数的分析 我们在学习机器学习时用的是线性模型作为例子去理解, 后续其他模型训练本质和步骤也基本如此, 但不同模型函数有自身的缺陷, 下图示意了线性模型的缺陷。 线性模型过于简
阅读全文
摘要:上一篇 -> 机器学习课程笔记 0。 第1讲 机器学习(Machine Learning, ML)简介 1. 机器学习理解 通过各种方式寻找一种函数, 可以完成事物的转换。 2. 不同的函数 1. 回归 Regression 通过历史数据, 学习参数拟合函数, 总结趋势, 预测未来数据。 2. 分类
阅读全文
摘要:1. 第0讲 概述 1.1 机器学习简单理解 通过各种方式寻找一种函数, 可以完成事物的转换。 1.2 深度学习简单理解 通过各种神经网络(Neural Network)的形式, 寻找函数。 输入多样, 输出多样。 值:回归、类别:分类、区分:聚类。 1.3 学习方式 监督学习 Supervised
阅读全文