深度学习Bible学习笔记:第一章 前言
写在前面:请务必踏踏实实看书,结合笔记或视频来理解学习,任何技术,啃砖头是最扎实最系统的,为避免知识碎片化,切忌抛却书本的学习!!!
一 什么是深度学习
1 关于AI:
AI系统必须具备从原始数据提取模式的能力——机器学习;
算法性能依赖于数据表示(表示学习);
传统机器学习:人工提取特征
深度学习:源于并高于传统神经网络,通过深度结构,从简单概念构建复杂概念,自动发现提取分布式特征,完成模型学习(个人定义,非权威)2006,hinton首次提出。
2 特点:
自动提取特征;
层级抽象。
二 跟机器学习什么关系
DL源于ML,但是高于ML;
DL是AI的一大分支;
DL是深层神经网络,一般4-5层以上;
DL是表示学习中的一种。
三 DFN概要
DFN:深度前馈网络,或前馈神经网络(FFN)/多层感知机(MLP);
目标:近似模拟某个函数f y=f(x,θ)
学习参数θ的值,得到最佳函数近似
注:并非完美模拟大脑,知识实现统计泛化,函数近似机。源于大脑,远远比不上大脑。
结构:
前馈(feedforward):信息一直往下流动,一路向前,不回头!例如:CNN
反馈(feedbackward):前馈的扩展,增加反馈连接,走一步,回下头,继续走。例如:RNN
天雨虽宽,不润无根之草。
佛门虽广,不渡无缘之人。