随笔分类 - 深度学习
发表于 2021-05-06 13:20阅读:152评论:0推荐:0
摘要:Metric Learning: 度量学习,距离度量学习(Distance Metric Learning,DML),相似度学习,传统机器学习方法,在人脸识别任务中,可以通过某个指标来衡量不同图片之间的相似度。 Meta Learning: 元学习,就是learning to learn,在一项任务
阅读全文 »
发表于 2020-02-16 22:56阅读:224评论:0推荐:0
摘要:第二周深度卷积网络 实例探究 2.1 为什么实例探究 2.2 经典网络 VGG 16:16个卷积层和全连接层 2.3 残差网络 深层网络存在梯度消失和梯度爆炸问题 跳跃连接:skip connection,一层的激活值能够快速传递到更深层 2.4 残差网络作用 当w和b矩阵为0时,残差网络会直接减少
阅读全文 »
发表于 2020-02-16 15:49阅读:349评论:0推荐:0
摘要:"课程视频" 第一周 机器学习策略 1.1 什么是机器学习策略 1.2 正交化 功能点之间相互独立 1.3 单一数字评估指标 调和平均数 1.4 满足和优化指标 N个指标,满足N 1个指标的前提下优化那一个指标 1.5 训练,开发,测试数据集划分 训练集,开发集,测试集分开 1.6 开发集和数据集大
阅读全文 »
发表于 2020-02-05 14:43阅读:278评论:0推荐:0
摘要:"视频" 第一周 循环序列模型 1.1 为什么选择序列模型 1.2 数学符号 1.3 循环神经网络 不能使用标准网络 0时刻的伪激活值 只有前一个单词的信息 1.4 通过时间的方向传播 交叉熵损失函数 1.5 不同类型的循环神经网络 1.6 语言模型和序列生成 条件概率相乘得到整个句子概率 1.7
阅读全文 »
发表于 2019-12-29 10:14阅读:312评论:0推荐:0
摘要:"视频" 第一周 深度学习的实用层面 1.1 训练,配置,测试训练集 学习完如何构建神经网络,接下来学习如何高效运行神经网络 数据集划分: train,dev,test: 在train中训练模型,利用dev选择最佳模型,利用test测试最终模型 1.2 偏差Bias,方差Variance 欠拟合(高
阅读全文 »
发表于 2019-12-26 10:34阅读:400评论:0推荐:0
摘要:第一周 深度学习概论 第二周 神经网络基础 2.1 二分类 是:标记1,不是标记0 输入特征: 64 64 3=12288 个特征值 2.2 逻辑回归 2.3 逻辑回归损失函数 2.4 梯度下降法 训练和学习参数w和b 2.5 导数 2.6 导数例子 2.7 计算图 2.8 计算图中导数计算 2.9
阅读全文 »