随笔分类 -  动手学深度学习系列

动手学深度学习-学习笔记
动手学深度学习18- 模型构造基础Module类的操作手册
摘要:<! TOC "模型的构造" "通过Module类来构造模型" "Module的子类" "Sequential类" "ModuleList 类" "ModuleDict类" "构造复杂的模型" "小结" <! /TOC 模型的构造 回顾之前的3.10章节中的多层感知机的简洁实现中,含但隐藏层的多层感 阅读全文

posted @ 2019-12-28 20:47 多一点 阅读(743) 评论(1) 推荐(0) 编辑

动手学深度学习17-kaggle竞赛实践小项目房价预测
摘要:<! TOC "kaggle竞赛" "获取和读取数据集" "数据预处理" "找出所有数值型的特征,然后标准化" "处理离散值特征" "转化为DNArray后续训练" "训练模型" "k折交叉验证" "预测样本,并提交结果" <! /TOC kaggle竞赛 本节将动手操作实践一个kaggle比赛,房 阅读全文

posted @ 2019-12-14 10:14 多一点 阅读(732) 评论(0) 推荐(0) 编辑

动手学深度学习16- 深度学习的数值稳定性和模型初始化
摘要:<! TOC "衰减和爆炸" "随机初始化模型参数" "pytorch的默认随机初始化" "Xavier随机初始化" "小结" <! /TOC 深度学习的数值稳定性问题以及模型参数的初始化方法。 深度学习有关数值稳定性的典型问题是衰减(vanishing) 和爆照(explosion) 衰减和爆炸 阅读全文

posted @ 2019-11-16 20:08 多一点 阅读(693) 评论(0) 推荐(0) 编辑

动手学深度学习15-深度学习-正向传播、反向传播和计算图
摘要:<! TOC "正向传播" "反向传播" "训练深度学习模型" "小结" <! /TOC 前几节里面我们使用了小批量随机梯度下降的优化算法来训练模型。在实现中,我们只提供了模型的正向传播的(forward propagation)计算,即对于输入计算模型输出,然后通过autograd模块来调用系统自 阅读全文

posted @ 2019-11-16 11:03 多一点 阅读(1483) 评论(0) 推荐(0) 编辑

动手学深度学习14- pytorch Dropout 实现与原理
摘要:<! TOC "方法" "从零开始实现" "定义模型参数" "网络" "评估函数" "优化方法" "定义损失函数" "数据提取与训练评估" "pytorch简洁实现" "小结" <! /TOC 针对深度学习中的过拟合问题,通常使用丢弃法(dropout),丢弃法有很多的变体,本文提高的丢弃法特指倒置 阅读全文

posted @ 2019-11-15 17:00 多一点 阅读(4469) 评论(0) 推荐(1) 编辑

转 深度学习—过拟合问题
摘要:1、过拟合问题 欠拟合:根本原因是特征维度过少,模型过于简单,导致拟合的函数无法满足训练集,误差较大; 解决方法:增加特征维度,增加训练数据; 过拟合:根本原因是特征维度过多,模型假设过于复杂,参数过多,训练数据过少,噪声过多,导致拟合的函数完美的预测训练集,但对新数据的测试集预测结果差。 过度的拟 阅读全文

posted @ 2019-11-15 14:30 多一点 阅读(333) 评论(0) 推荐(1) 编辑

动手学深度学习13-权重衰减
摘要:<! TOC "权重衰减" "高维线性回归实验" "从零开始实现" "初始化模型参数" "定义L2范数惩罚项" "定义训练和测试" "使用权重衰减" "pytorch简洁实现" "小结" <! /TOC 上一节中提提到的过拟合现象,在模型的训练误差远小于测试集上的误差。虽然增大训练接数据集可以减轻过 阅读全文

posted @ 2019-11-11 14:14 多一点 阅读(2516) 评论(0) 推荐(0) 编辑

动手学深度学习12- 模型选择,欠拟合和过拟合
摘要:"模型选择、欠拟合和过拟合" "训练误差和泛化误差" "模型选择" "K折交叉验证" "欠拟合和过拟合" "模型复杂度" "训练数据集大小" "多项式函数拟合实验" "定义、训练和测试模型" "欠拟合" "过拟合" "小结" 模型选择、欠拟合和过拟合 前几节给予Fashion_MNIST数据集的实验 阅读全文

posted @ 2019-11-08 18:31 多一点 阅读(893) 评论(0) 推荐(0) 编辑

动手学深度学习11- 多层感知机pytorch简洁实现
摘要:<! TOC "多层感知机的简洁实现" "定义模型" "读取数据并训练数据" "损失函数" "定义优化算法" "小结" <! /TOC 多层感知机的简洁实现 定义模型 读取数据 损失函数 定义优化算法 训练数据并验证测试集 epoch 1, loss 0.0031, train acc 0.707, 阅读全文

posted @ 2019-11-07 13:54 多一点 阅读(791) 评论(0) 推荐(0) 编辑

动手学深度学习10- pytorch多层感知机从零实现
摘要:<! TOC "多层感知机" "定义模型的参数" "定义激活函数" "定义模型" "定义损失函数" "训练模型" "小结" <! /TOC 多层感知机 我们仍然使用Fashion_MNIST数据集,使用多层感知机对图像进行分类 定义模型的参数 Fashion_MNIST数据集汇总的图形的形状为28x 阅读全文

posted @ 2019-11-07 12:31 多一点 阅读(1419) 评论(0) 推荐(0) 编辑

动手学深度学习9-多层感知机pytorch
摘要:<! TOC "多层感知机" "隐藏层" "激活函数" "小结" <! /TOC 多层感知机 之前已经介绍过了线性回归和softmax回归在内的单层神经网络,然后深度学习主要学习多层模型,后续将以多层感知机(multilayer percetron,MLP),介绍多层神经网络的概念。 隐藏层 多层感 阅读全文

posted @ 2019-11-06 22:40 多一点 阅读(2148) 评论(0) 推荐(0) 编辑

动手学深度学习8-softmax分类pytorch简洁实现
摘要:<! TOC "定义和初始化模型" "softamx和交叉熵损失函数" "定义优化算法" "训练模型" <! /TOC 定义和初始化模型 softmax的输出层是一个全连接层,所以我们使用一个线性模块就可以,因为前面我们数据返回的每个batch的样本X的形状为(batch_size,1,28,28) 阅读全文

posted @ 2019-11-05 21:40 多一点 阅读(2639) 评论(0) 推荐(0) 编辑

动手学深度学习7-从零开始完成softmax分类
摘要:<! TOC "获取和读取数据" "初始化模型参数" "实现softmax运算" "定义模型" "定义损失函数" "计算分类准确率" "训练模型" "小结" <! /TOC 获取和读取数据 我们将使用Fahsion_MNIST数据集,并设置批量大小为256 初始化模型参数 与线性回归中的例子一样,我 阅读全文

posted @ 2019-11-05 18:07 多一点 阅读(1002) 评论(0) 推荐(0) 编辑

动手学深度学习6-认识Fashion_MNIST图像数据集
摘要:<! TOC "获取数据集" "读取小批量样本" "小结" <! /TOC 本节将使用torchvision包,它是服务于pytorch深度学习框架的,主要用来构建计算机视觉模型。 torchvision主要由以下几个部分构成: 1. torchvision.datasets:一些加载数据的函数以及 阅读全文

posted @ 2019-11-02 23:10 多一点 阅读(1721) 评论(0) 推荐(0) 编辑

动手学深度学习5-softmax回归
摘要:<! TOC "softmax回归" "softmax 回归模型" "单样本分类的矢量计算表达式" "小批量样本分类的矢量计算表达式" "交叉熵损失函数" "模型预测以及评价" "小结" <! /TOC softmax回归 前几节介绍的是线性回归模型适用于输出连续值的情况,在另外一类情况下,模型输出 阅读全文

posted @ 2019-11-01 15:56 多一点 阅读(709) 评论(0) 推荐(0) 编辑

动手学深度学习4-线性回归的pytorch简洁实现
摘要:<! TOC "导入同样导入之前的包或者模块" "生成数据集" "通过pytorch读取数据" "定义模型" "初始化模型" "定义损失函数" "定义优化算法" "训练模型" "小结" <! /TOC 本节利用pytorch中的模块,生成一个更加简洁的代码来实现同样的功能 导入同样导入之前的包或者模 阅读全文

posted @ 2019-10-31 23:31 多一点 阅读(716) 评论(0) 推荐(0) 编辑

动手学深度学习3-从零开始完成线性回归
摘要:<! TOC "生成数据集" "读取数据" "初始化模型参数" "定义模型" "定义损失函数" "定义优化算法" "训练模型" <! /TOC 在了解了线性回归的背景知识之后,我们可以动手实现该算法了。尽管强大的深度学习框架可以减少大量重复性工作,但是过于依赖它提供的便利,会导致我们很难深入理解深度 阅读全文

posted @ 2019-10-31 00:22 多一点 阅读(510) 评论(0) 推荐(0) 编辑

动手学深度学习2-深度学习基础
摘要:<! TOC "线性回归" "线性回归的基本要素" "模型定义" "训练模型" "模型预测" <! /TOC 线性回归 线性回归输出是一个连续值,因此适用于回归问题。回归问题的实际中很常见,比如房屋价格预测,气温,销售额等连续值的问题。与回归问题不同,分类问题中的模型输出是一个离散值。我们所说的图像 阅读全文

posted @ 2019-10-29 22:15 多一点 阅读(409) 评论(0) 推荐(0) 编辑

动手学深度学习1- pytorch初学
摘要:<! TOC "pytorch 初学" "Tensors" "创建空的tensor" "创建随机的一个随机数矩阵" "创建0元素的矩阵" "直接从已经数据创建tensor" "创建新的矩阵" "计算操作" "加法操作" "转化形状" "tensor 与numpy 的转化" "数据在GPU上的操作" 阅读全文

posted @ 2019-10-27 21:05 多一点 阅读(697) 评论(0) 推荐(0) 编辑

导航

< 2025年2月 >
26 27 28 29 30 31 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 1
2 3 4 5 6 7 8
点击右上角即可分享
微信分享提示