摘要：红框训练超参数，蓝框训练参数 1.用循环网络作为控制器生成神经网络A和概率P ①神经网络的结构和连通性，通常由可变长度的字符串指定。因此，可以使用循环网络——控制器来生成这样的字符串（网络A）。解释： 神经网络的结构和连通性 神经网络由众多神经元以及它们之间的连接构成，结构上涵盖神经元的层数、每层神 阅读全文

摘要：一. 子模型的基本架构 子模型由N个卷积单元和M个缩减单元按一定规则排列后加上GAP层、FC层和Softmax层组成。关键：通过引入卷积单元和缩减单元，充分发挥了CNN模型强大的特征提取能力。 整个结构中后面三层是确定的，中间的卷积单元和缩减单元要从搜索空间中获取。 二. 搜索空间 NAS的核心思想 阅读全文

摘要：具体在第五次汇报 卷积神经网络是多层感知机(MLP)的变种。卷积神经网络（Convolutional Neural Networks）是一种包含卷积计算且具有深度结构的前馈神经网络，CNN具有表征学习的能力，能够按阶层对输入数据进行平移不变分类。CNN的设计灵感来源于动物视觉系统分级处理信息的能力， 阅读全文

摘要：随着RNN在长序列处理中的应用深入，发现了其难以捕捉长距离依赖的问题。LSTM是传统RNN的变体，与经典RNN相比能够有效捕捉长序列之间的语义关联，通过引入了“记忆单元”（Memory Cell）和“门控机制”来控制信息的流动，解决了标准RNN中梯度消失和梯度爆炸的问题。其核心结构可以分为四个部分： 阅读全文

摘要：一.RNN介绍 在学习LSTM之前，得先学习RNN。RNN实际上就是一个带有记忆的时间序列的预测模型。RNN的基本结构包括输入层、隐藏层和输出层。在RNN中，输入序列被分成多个时间步，每一个时间步都对应于序列中的一个元素。每个时间步更新一个隐藏状态（Hidden State），该状态不仅接收当前时间 阅读全文

摘要：一.Adam优化器 旨在根据历史梯度信息来调整每个参数的学习率，从而实现更高效的网络训练。Adam算法的核心思想是同时计算梯度的一阶矩（均值）和二阶矩（未中心的方差）的指数移动平均，并对它们进行偏差校正，以确保在训练初期时梯度估计不会偏向于0。Adam优化器是一种梯度下降算法的变体，它结合了随机梯度 阅读全文