06 2017 档案
摘要:UFLDL深度学习笔记 (三)无监督特征学习 1. 主题思路 “ "UFLDL 无监督特征学习" ”本节全称为 自我学习与无监督特征学习 ,和前一节 "softmax回归" 很类似,所以本篇笔记会比较简化,主题思路和步骤如下: 把有标签数据分为两份,先对一份原始数据做 "无监督的稀疏自编码" 训练,
阅读全文
摘要:UFLDL深度学习笔记 (二)Softmax 回归 本文为学习“ "UFLDL Softmax回归" ”的笔记与代码实现,文中略过了对代价函数求偏导的过程,本篇笔记主要补充求偏导步骤的详细推导。 1. 详细推导softmax代价函数的梯度 经典的logistics回归是二分类问题,输入向量$ x^{
阅读全文
摘要:UFLDL深度学习笔记 (一)基本知识与稀疏自编码 前言 近来正在系统研究一下深度学习,作为新入门者,为了更好地理解、交流,准备把学习过程总结记录下来。最开始的规划是先学习理论推导;然后学习一两种开源框架;第三是进阶调优、加速技巧。越往后越要带着工作中的实际问题去做,而不能是空中楼阁式沉迷在理论资料
阅读全文