1.Introduce笔记-CMU《深度学习导论》

1. Introduce

神经网络应用背景

语音识别

语义

图像识别、生成

博弈等等。。。。

课程目标

理解深度神经网络

学习使用一些术语、模型

设计、构建和训练网络完成多种任务

什么是神经网络

人类的思考，不计其数的神经元相互连接

感知、联结主义和连接机器

联结主义：信息处于连接之中，大脑的处理能力是神经元连接功能的一部分

连接机器：人的大脑是一个连接机器，所以知识都存储在元素的连接之中，当前神经网络都是模范连接机器

图灵的连接机器：

联结系统：单元的连通信、单元的激活功能、学习过程修改单元之间的连接、从语义上解释网络

大脑模型

信号从树突到神经元，激活轴突，传递到别的神经元

计算模型

值达到 \(T\) 就到达阈值，从而触发 \(y\)

实现了一个分类的问题

扩展一下

MLPs

对于连续的值，使用sigmod函数产生连续的值

权重w的意义：

当输入的值达到阈值，则表示权重模式和输入有一定的关联

MLP作为特征的探测

MLPs是计算模型之间的连接组成的，是一个分类工具，也可以作为连续值的模型