吴恩达老师的神经网路和深度学习_02

• 神经网络的监督学习(Supervised Learning with Neural Networks)

        吴恩达老师说：目前为止，由“神经网络”模型创造的价值基本上都是基于监督式学习（Supervised Learning）的。监督式学习与非监督式学习本质区别就是是否已知训练样本的输出y。在实际应用中，机器学习 解决的大部分问题都属于监督式学习，神经网络模型也大都属于监督式学习。

        吴恩达老师举例说明神经网络已经被高效应用到其它地方。如下图1所示：

    

        首先，第一个例子还是房屋价格预测。根据训练样本的输入x和输出y，训练神经网络模型，预测房价。第二个例子是线上广告，这是深度学习最广泛、最赚钱的应用之一。其中，输入x是广告和用户个人信息，输出y是用户是否对广告进行点击。神经网络模型经过训练，能够根据广告类型和用户信息对用户的点击行为进行预测，从而向用户提供用户自己可能感兴趣的广告。第三个例子是计算机视觉，计算机视觉是比较火是一个课题，计算机视觉发展迅速的原因很大程度上是得益于深度学习。其中，输入x是图片像素值，输出是图片所属的不同类别。第四个例子是语音识别（speech recognition）。深度学习可以将一段语音信号辨识为相应的文字信息。第五个例子是智能翻译，例如通过神经网络输入英文，然后直接输出中文。第六个例子是自动驾驶。通过输入一张图片或者汽车雷达信息，神经网络通过训练来告诉你相应的路况信息并作出相应的决策。
         吴恩达老师也粗略的讲了一点，卷积神经网络（Convolution Neural Network）即CNN,CNN是对于图像识别处理问题。循环神经网络（Recurrent Neural Network）即RNN，则是用于处理类似语音等序列信号。

        另外，数据类型一般分为两种：Structured Data(结构化数据)  和 Unstructured Data （非结构化数据）。

        结构化数据指的是有实际意义的数据。例如房价预测中的size，#bedrooms，price等；这些数据都具有实际的物理意义，比较容易理解。而非结构化数据指的是比较抽象的数据，例如Audio，Image或者Text。 比如吴恩达老师视频的的图片，如图2所示：
  

• 为什么深度学习会兴起？(Why is Deep Learning taking off?)

       吴恩达老师给我们解释了深度学习为什么如此强大。如下图3所示：

        

        图3共有4条不同颜色曲线。其中，最底下的那条红色曲线代表了传统机器学习算法的表现，例如是SVM，logistic regression，decision tree等。当数据量比较小的时候，传统学习模型的表现是比较好的。但是当数据量很大的时候，其表现很一般，性能基本趋于水平。红色曲线上面的那条黄色曲线代表了规模较小的神经网络模型（Small NN）。它在数据量较大时候的性能优于传统的机器学习算法。黄色曲线上面的蓝色曲线代表了规模中等的神经网络模型（Media NN），它在在数据量更大的时候的表现比Small NN更好。最上面的那条绿色曲线代表更大规模的神经网络（Large NN），即深度学习模型。从图中可以看到，在数据量很大的时候，它的表现仍然是最好的，而且基本上保持了较快上升的趋势。

       吴恩达老师在这节课中也指出了深度学习如此强大的三个主要的因素：Data、Computation、Algorithms。其中，数据量的几何级数增加，加上GPU出现、计算机运算能力的大大提升，使得深度学习能够应用得更加广泛。另外，算法上的创新和改进让深度学习的性能和速度也大大提升。

       该专项课程的最终的Coursera地址：https://www.coursera.org/specializations/deep-learning

       希望我的理解能对大家带来帮助！以后我们一起努力！