深度学习
深度学习
麻省理工学院出版社的书正在准备中
伊恩·古德费洛、约书亚·本吉奥和亚伦·库维尔
讲座
我们计划在本书的所有章节中提供讲座幻灯片。我们目前仅提供某些章节的幻灯片。如果您是课程讲师并且拥有自己的相关讲座幻灯片,并且希望从本网站链接或镜像您的幻灯片,请随时与我们联系。
- 介绍
- 线性代数 [ .key ][ .pdf ]
- 概率与信息论 [ .key ][ .pdf ]
- 数值计算 [ .key ] [ .pdf ] [ youtube ]
- 机器学习基础知识 [ .key ] [ .pdf ]
- 深度前馈网络 [ .key ] [ .pdf ]
- Ian 的演示视频 (.flv) 以及 Chintan Kaur 组织的 Google 阅读小组小组讨论的视频 (.flv)。
- 深度学习正则化 [ .pdf ] [ .key ]
- 训练深度模型的优化
- 梯度下降和神经网络成本函数的结构[ .key ] [ .pdf ]
这些幻灯片描述了梯度下降在不同类型的成本函数表面上的行为方式。可以通过检查成本函数的二阶泰勒级数近似来建立对成本函数结构的直觉。这种二次函数可能会引起调节不良和鞍点等问题。神经网络成本函数的可视化显示了神经网络成本函数的这些和其他一些几何特征如何影响梯度下降的性能。 - 深度网络优化教程[ .key ] [ .pdf ]
Ian 在 2016 年 Re-Work 深度学习峰会上的演讲。涵盖 Google Brain 关于优化的研究,包括神经网络成本函数的可视化、Net2Net 和批量归一化。 - 批量归一化[ .key ] [ .pdf ]
- 讲座/讨论视频:该视频涵盖了 Ian 的演讲以及在旧金山由 Taro-Shigenori Chiba 组织的阅读小组中关于第 8 章末尾和第 9 章全文的小组讨论。
- 梯度下降和神经网络成本函数的结构[ .key ] [ .pdf ]
- 卷积网络
- 序列建模:循环和递归网络
- 实用方法论 [ .key ][ .pdf ] [ youtube ]
- 应用程序 [ .key ][ .pdf ]
- 线性因子 [ .key ][ .pdf ]
- 自动编码器 [ .key ][ .pdf ]
- 表征学习 [ .key ][ .pdf ]
- 深度学习的结构化概率模型[ .key ][ .pdf ]
- 蒙特卡罗方法[ .key ] [ .pdf ]
- 面对分区函数[ .key ] [ .pdf ]