1.深度学习本质就是找一个函数能够拟合某一个的问题。
2.如果没有非线性的激活函数，整个函数就只有线性，也就是说你只能去线性地分类问题，但很多问题都不是线性可分的。
3.人脑神经元的连接是稀疏的，因此研究者认为大型神经网络的合理的连接方式应该也是稀疏的。稀疏结构是非常适合神经网络的一种结构，尤其是对非常大型、非常深的神经网络，可以减轻过拟合并降低计算量，例如卷积神经网络就是稀疏的连接。
