机器学习笔记（四）神经网络的基本概念

Neural networks（神经网络）

1、问题背景：

在计算机视觉处理中，50*50的图片有2500个像素点，对于所有“x_i*x_j”二次项特征值有2500*2500/2 ≈ 300万，特征过多导致过拟合。

 

2、模型：

 

 如果第 j 层有 s_j 个神经元，第 j+1 层有 s_j+1 个神经元，那么 θ^(j) 是 s_j+1*(s_j+1) 维。

 

3、数学定义：

 

 正向激励通式：

 

 

4、举例：

 

5、多类别分类情况：

当h_θ(x) = [1 0 0 0]^T，为行人；

当h_θ(x) = [0 1 0 0]^T，为车；

当h_θ(x) = [0 0 1 0]^T，为摩托；

等等

 最终的结果形如：