吴恩达机器学习2
为什么深度学习会兴起?
在最近的几年里,深度学习异常兴起。为什么会这样呢?课程中认为,由于社会数字化的发展,产生了大量的数据,更快的计算和创新的神经网络算法的发展导致了深度学习的兴起。
如上图所示,横坐标是数据的规模,纵坐标是算法的表现。从图中可以看出,当数据量较小时,传统的数据处理方法(例如SVM,逻辑回归等等)可以取到一定的效果,但是随着数据量的增加,其表现就达到饱和。这时,如果采用更好的算法,比如采用深度学习的算法,就会取得更好的效果。这也表现了深度学习兴起的原因。
所以,从两个方面可以考虑采用深度学习方法并可以取得很好的效果:
1.可以被训练成一个神经网络算法
2.拥有大量标签数据
训练神经网络的过程是迭代的
如上图所示,我们通常是先产生一个idea,之后根据这个idea来训练一个神经网络模型。之后再测试该模型的有效性,然后从新调参训练。
有时候训练一个神经网络会花费大量的时间,这会影响我们的开发效率。因此,我们通常想办法需要一个更快的计算方法来训练我们的算法。