图解人工智能机器学习深度学习的关系和区别
图解人工智能机器学习深度学习的关系和区别,先直观看下图的关系:
AI(Artificial Intelligence.人工智能)、机器学习(machine learning)、深度学习(Deep learning)
人工智能和机器学习和深度学习的区别:机器学习是人工智能的一种实现方法,而且在许多的应用领域应用的非常成功,所以现在比较流行; 说到机器学习,就不得不提深度学习,深度学习是机器学习中的一个组成分支,深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。
深度学习是无监督学习的一种。深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。
深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。
Deep learning本身算是machine learning的一个分支,简单可以理解为neural network的发展。
大约二三十年前,neural network曾经是ML领域特别火热的一个方向,但是后来确慢慢淡出了,原因包括以下几个方面:
1)比较容易过拟合,参数比较难tune,而且需要不少trick;
2)训练速度比较慢,在层次比较少(小于等于3)的情况下效果并不比其它方法更优;
所以中间有大约20多年的时间,神经网络被关注很少,这段时间基本上是SVM和boosting算法的天下。
但是,一个痴心的老先生Hinton,他坚持了下来,并最终(和其它人一起Bengio、Yann.lecun等)提成了一个实际可行的deep learning框架。
Deep learning与传统的神经网络之间有相同的地方也有很多不同。
二者的相同在于deep learning采用了神经网络相似的分层结构,系统由包括输入层、隐层(多层)、输出层组成的多层网络,只有相邻层节点之间有连接,同一层以及跨层节点之间相互无连接,每一层可以看作是一个logistic regression模型;
这种分层结构,是比较接近人类大脑的结构的。而为了克服神经网络训练中的问题,DL采用了与神经网络很不同的训练机制。
传统神经网络中,采用的是back propagation的方式进行,简单来讲就是采用迭代的算法来训练整个网络,随机设定初值,计算当前网络的输出,然后根据当前输出和label之间的差去改变前面各层的参数,直到收敛(整体是一个梯度下降法)。
而deep learning整体上是一个layer-wise的训练机制。
这样做的原因是因为,如果采用back propagation的机制,对于一个deep network(7层以上),残差传播到最前面的层已经变得太小,出现所谓的gradient diffusion(梯度扩散)。
人工智能的三大法宝: 大数据,计算能力和算法。 因为我们知道,人工智能其实是通过不断的吃数据,自动的处理数据变聪明的,而且数据训练的越多,其准备度越高。无论是个人企业都逃离不了上面的三大区域。 随着工业的现代化,人类的分工也越来越密切,一个人试图掌握一切知识的能力所付出的成本也越来越高。如果你觉得你对数据的处理比较在行的话,就可以在大数据的获取和分类方面钻研的更深,其实也是投入了人工智能行业的怀抱的;如果你或者贵公司是做硬件设备的,或者有大型分布式处理的设计和使用经验的话,在人工智能的计算方面进行拓展也是非常不错的;如果你觉得你的算法和数学功底很好的话,那么可以在算法方面进行深入的造诣。同时,肯定还有一部分人需要结合上面的三大法宝进行应用开发和参数调优,实际应用AI去解决生产生活的一些问题,这也是一个不错的转型的方向。
------------------------------
本人微信公众帐号: 心禅道(xinchandao)
本人微信公众帐号:双色球预测合买(ssqyuce)
golang技术交流群:316397059,vuejs技术交流群:458915921 囤币一族:621258209,有兴趣的可以加入
微信公众号: 心禅道(xinchandao)投资论道