【新生学习】深度学习与 PyTorch 实战课程大纲
各位20级新同学好,我安排的课程没有教材,只有一些视频、论文和代码。大家可以看看大纲,感兴趣的同学参加即可。因为是第一次开课,大纲和进度会随时调整,同学们可以随时关注。初步计划每周两章,一个半月完成课程。
Part 1 : 课程大纲
第一章 绪论
- 1.1 从专家系统到机器学习
- 1.2 从传统机器学习到深度学习
- 1.3 深度学习的能与不能
- 1.4 pytorch 基础
第二章 神经网络基础
- 2.1 浅层神经网络:生物神经元到单层感知器,多层感知器,反向传播和梯度消失
- 2.2 神经网络到深度学习:逐层预训练,自编码器和受限玻尔兹曼机
- 2.3 pytorch 编程练习
第三章 卷积神经网络
- 3.1 卷积神经网络 VS 传统神经网络
- 3.2 基本组成结构:卷积、池化、全连接
- 3.3 典型结构:AlexNet, ZFNet, VGG, GoogleNet, ResNet
- 3.4 pytorch 代码讲解
第四章 循环神经网络
- 4.1 循环神经网络 VS 卷积神经网络
- 4.2 循环神经网络的基本结构:深度RNN,双向RNN,BPTT算法
- 4.3 循环神经网络的变种:LSTM,Grid-LSTM,GRU
- 4.4 扩展: 解决RNN梯度消失的办法,基于注意力机制的RNN
第五章 目标检测
- 5.1 基本概念,评测标准,数据集,国际竞赛
- 5.2 准备工作:滑动窗口、目标候选生成、难样本挖掘、非极大值抑制、检测框回归
- 5.3 目标检测两阶段方法:R-CNN, SPP-Net, Fast R-CNN, Faster R-CNN, FPN, RFCN
- 5.4 目标检测单阶段方法: YOLO, SSD, Retina Net
- 5.5 十行代码实现目标检测
第六章 生成式对抗网络(GAN)基础
- 6.1 基础:图像生成、修复、风格迁移、文字生成图片
- 6.2 理论基础:模型和目标函数,全局最优解,pytorch 实现
- 6.3 条件生成式对抗网络(Conditional GAN)与 pytorch 实现
- 6.4 深度卷积生成式对抗网络(Deep Convolutional GAN,DCGAN)与 pytorch 实现
- 6.5 Wasserstein GAN (WGAN)与 pytorch 实现
第七章 生成对抗网络GAN前沿
- 7.1 ProgressiveGAN、Spectral Normalization GAN、Self-Attention GAN
- 7.2 以图像翻译为例,用 pytorch 实现 Pix2pix
- 7.3 以图像翻译为例,用 pytorch 实现 CycleGAN
第八章 前沿技术
- 8.1 深度强化学习:策略梯度法、Deep Q-Network、Actor-Critic方法
- 8.2 迁移学习:种类及代表性方法,域自适应
- 8.3 图卷积神经网络
- 8.4 深度学习可视化及解释
Part 2: 课程准备
课程主页为:https://edu.cnblogs.com/campus/ouc/deeplearning
请大家自行在博客园注册帐号,同时将自己的博客地址填写于在线文档:https://kdocs.cn/l/c4rOk46ry 我会把大家拉进班级。
初步计划本周开课,请大家本周四(7月16日 18:00前完成)上述要求。把大家拉进课程后,我会本周布置一次作业,希望大家按时完成。
备注: 每周作业会要求写一个博客,希望大家可以最近两天熟悉一下 Markdown 的基本语法以及 Typora 软件。