随笔分类 - 深度学习实验
摘要：一：手写循环神经网络的实现 实验： 手动实现循环神经网络RNN，并从至少一个数据集上进行实验，这里我选取了高速公路传感器数据PEMS04（后面的实验都是用的高速公路传感器数据），主要根据数据集的大小以及特征维度，手动实现循环神经网络，包括输入层、隐藏层、输出层，其中注意的是下一层的输入是本身和上一层
阅读全文
摘要：一：pytorch实现空洞卷积实验（torch实现） 要求： 从至少一个数据集上进行实验，同理，这里我选取了车辆分类数据集（后面的实验都是用的车辆分类数据集），主要在之前利用torch.nn实现二维卷积的基础上，为解决感受野比较的问题，将普通的卷积修改为空洞卷积，并且卷几率符合HDC条件（这里我选取
阅读全文
摘要：一：Pytorch实现经典模型AlexNet模型 要求： 使用pytorch实现经典的分类模型AlexNet,这里主要因为没有GPU环境，而其完整参数达到了6000万个，所以如ppt要求，在该模型的基础架构上，修改卷积核的大小以及卷积操作的步长等来模拟实现。 实验设计： 实验过程： 注：这里主要介绍
阅读全文
摘要：一：手写二维卷积的实现 要求： 手写二维卷积的实现，并从至少一个数据集上进行实验，这里我选取了车辆分类数据集（后面的实验都是用的车辆分类数据集），主要根据数据集的大小，手动定义二维卷积操作，如：自定义单通道卷积、自定义多通道卷积、自定义卷积层等。 实验过程： 1.1相关包的导入 1. import
阅读全文
摘要：手动实现请参考：https://blog.csdn.net/qq_37534947/article/details/109394648 二：“利用torch.nn实现前馈神经网络解决回归、二分类、多分类任务”实验 注： 因为相比于手动实验其主要是在模型的构建中利用了torch.nn模块，其他的部分都
阅读全文
摘要：一：“手动实现前馈神经网络解决回归、二分类、多分类任务”实验 1.1“手动实现前馈神经网络解决回归”实验 实验过程： 1.1.1 导入所需要的包 1. import torch 2. import numpy as np 3. import random 4. from IPython import
阅读全文
摘要：循环神经网络： https://blog.csdn.net/qq_37534947/article/details/108369828
阅读全文
摘要：文章目录 卷积神经网络 一、三个特点 二、卷积和互相关 三、卷积操作 四、反向传播 五、池化 六、增加输出单元的感受野 七、卷积网络发展历程 卷积神经网络 为什么引入卷积网络？主要是对于图片来说，全连接神经网络的几个弊端如下： 一、三个特点 稀疏交互/局部连接： 在全连接神经网络，一层的每个神经元和
阅读全文
摘要：深度模型优化与正则化： 网络优化 目的：经验风险最小化。对于低维来说，目的是逃离局部最优点；对于高维来说，则是逃离鞍点。 梯度下降 批量梯度下降、小批量梯度下降、随机批量梯度下降。 学习率 流程：学习率预热、学习率衰减、学习率周期调整、自适应学习率。 1）学习率预热：
阅读全文
摘要：前馈神经网络： https://blog.csdn.net/qq_37534947/article/details/107832979 补充： 人工神经网络的三大要素： 万能近似定理： 可以看到只需要一个线性输出层和一个隐藏层组成的神经网络就可以近似任何函数，但是规模可能巨大，随着深度的增加，网络的
阅读全文
摘要：深度学习的框架： 核心组件 张量、基于张量的相关操作、计算图、自动微分工具、cudnn等扩展包。 张量：多维数组，0维张量即标量、1维张量即矢量、2维张量即矩阵、3为张量矩阵数组、4为张量… 基于张量的相关操作： 计算图： 自动微分工具
阅读全文
摘要：一：绪论 人工智能：使一部机器人像人一样进行感知、认知、决策、执行的人工程序或系统。 标志事件表： 人工智能诞生：1956年的达特茅斯会议 三个层面：目前处于第二个 分类： 三起两落
阅读全文
