摘要：
一、PGM用来做什么 1、 医学诊断：从各种病症分析病人得了什么病，该用什么手段治疗 2、 图像分割：从一张百万像素级的图片中分析每个像素点对应的是什么东西 两个共同点：（1）有非常多不同的输入变量；（2）对于算法而言，结果都是不确定的 二、PGM各代表什么 1、 Models 2、 Probabi 阅读全文
摘要：
多伦多大学Hinton组 http://www.cs.toronto.edu/~rsalakhu/papers/srivastava14a.pdf 一、目的 降低overfitting的风险 二、原理 在网络的BP迭代训练过程中，每一次迭代的网络都结构不同（用dropout对网络剪枝，得到thinn 阅读全文
摘要：
一、回归函数及目标函数 以均方误差作为目标函数（损失函数），目的是使其值最小化，用于优化上式。 二、优化方式（Gradient Descent） 1、最速梯度下降法 也叫批量梯度下降法Batch Gradient Descent，BSD a、对目标函数求导 b、沿导数相反方向移动theta 原因： 阅读全文