摘要: 过拟合问题 欠拟合:根本原因是特征维度过少,模型过于简单,导致拟合的函数无法满足训练集,误差较大; 解决方法:增加特征维度,增加训练数据; 过拟合:根本原因是特征维度过多,模型假设过于复杂,参数过多,训练数据过少,噪声过多,导致拟合的函数完美的预测训练集,但对新数据的测试集预测结果差。 过度的拟合了 阅读全文
posted @ 2025-03-05 16:07 小舟渡河 阅读(0) 评论(0) 推荐(0) 编辑
摘要: 简单来看:Causal learning = To learn causal models/features from data Causal research 里包括两种重要问题,一种是Causal learning,另一种是Causal reasoning(不同的文献有不同的分法和叫法,这里用J 阅读全文
posted @ 2025-03-05 15:44 小舟渡河 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 生成对抗网络 背景 一般而言,深度学习模型可以分为判别式模型与生成式模型。由于反向传播、dropout等算法的发明,判别式模型得到了迅速发展。然而,由于生成式模型建模较为困难,因此发展缓慢,直到近年来最成功的生成模型--生成式对抗网络的发明,这一领域才换发新的生机。 简介 GAN是一种深度学习模型, 阅读全文
posted @ 2025-03-05 15:22 小舟渡河 阅读(2) 评论(0) 推荐(0) 编辑
摘要: 相关系数和特征选择 相关系数和特征选择,一个是属性,一个是特征。一般,把数据集中的各列成为属性,而对算法模型表现有益的属性成为特征。例如,在预测泰坦尼克乘客的存活情况时,乘客姓名这个属性对我们的预测可能没有帮助,甚至会干扰模型表现;而乘客年龄、性别或许与存活情况有很强的关系,这时,可以称他们为特征。 阅读全文
posted @ 2025-03-04 11:53 小舟渡河 阅读(9) 评论(0) 推荐(0) 编辑
摘要: Pytorch-Lightning 可以在Pytorch的库Pytorch-lightning中找到我们在这里讨论的每一个优化。Lightning是在Pytorch之上的一个封装,它可以自动训练,同时让研究人员完全控制关键的模型组件。Lightning使用最新的最佳实践,并将你可能出错的地方最小化。 阅读全文
posted @ 2025-03-03 22:07 小舟渡河 阅读(19) 评论(0) 推荐(0) 编辑
摘要: 数据切片 数据切片,又被称为数据分片,是一种在处理大规模数据集时,将数据划分为多个较小部分的方法。这种方法可以让我们更有效地处理和分析数据,尤其是在处理大规模数据集时,数据切片技术可以显著提高处理速度和效率。 数据切片技术的主要目的是提高数据处理的速度和效率,同时保证数据的完整性和一致性。数据切片可 阅读全文
posted @ 2025-03-03 16:16 小舟渡河 阅读(5) 评论(0) 推荐(0) 编辑
摘要: with torch.no_grad() 在深度学习的世界里,模型训练与评估是两个相互独立却又紧密相连的过程。训练时我们需要梯度来更新模型参数,但在评估阶段,梯度计算则称为了不必要的负担。with torch.no_grad()正是为此而生 它允许我们在不记录梯度的情况下执行前向传播,从而节省内存并 阅读全文
posted @ 2025-03-03 09:51 小舟渡河 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 基本思路 把一堆真实样本通过编码器网络变换成一个理想的数据分布,然后这个数据分布再传递给一个编码器网络,得到一堆生成样本,生成样本与真实样本足够接近的话,就训练出了一个自编码器模型。那VAE就是在自编码器模型上进一步变分处理,使得编码器的输出结果能对应到目标分布的均值和方差,如下图所示: VAE的设 阅读全文
posted @ 2025-02-25 15:54 小舟渡河 阅读(20) 评论(0) 推荐(0) 编辑
摘要: Oord等人的这篇论文提出了使用离散潜在嵌入进行变分自动编码的想法。提出的模型成为向量量化变分自动编码器 基本思想 VAE由3部分组成: 1.一个编码器网络,参数化潜在的后验q(z|x) 2.先验分布p(z) 3.输入数据分布为p(x|z)的解码器 通常我们假设先验和后验呈对 阅读全文
posted @ 2025-02-25 10:11 小舟渡河 阅读(15) 评论(0) 推荐(0) 编辑
摘要: 1. TimeMixer++: A General Time Series Pattern Machine for Universal Predictive Analysis 链接:https://openreview.net/forum?id=1CLzLXSFNn 关键词:多任务(预测,分类,插补 阅读全文
posted @ 2025-02-19 21:17 小舟渡河 阅读(19) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示