摘要: 感知器是一种早期的神经网络模型,由美国学者F.Rosenblatt于1957年提出.感知器中第一次引入了学习的概念,使人脑所具备的学习功能在基于符号处理的数学到了一定程度模拟,所以引起了广泛的关注。简单感知器简单感知器模型实际上仍然是MP模型的结构,但是它通过采用监督学习来逐步增强模式划分的能力,达到所谓学习的目的。其结构如下图所示感知器处理单元对n个输入进行加权和操作v即:其中,Wi为第i个输入... 阅读全文
posted @ 2018-01-03 20:58 彼岸花杀是条狗 阅读(9347) 评论(0) 推荐(0) 编辑
摘要: 简介Adam 是一种可以替代传统随机梯度下降(SGD)过程的一阶优化算法,它能基于训练数据迭代地更新神经网络权重。Adam 最开始是由 OpenAI 的 Diederik Kingma 和多伦多大学的 Jimmy Ba 在提交到 2015 年 ICLR 论文(Adam: A Method for Stochastic Optimization)中提出的。「Adam」,其并不是首字母缩写,也不是人名... 阅读全文
posted @ 2018-01-03 14:25 彼岸花杀是条狗 阅读(63450) 评论(1) 推荐(2) 编辑
摘要: NumPy的random子库np.random.*np.random.rand()np.random.randn()np.random.randint()import numpy as npa=np.random.rand(3,4,5)aOut[83]: array([[[ 0.08662874, 0.82948848, 0.68358736, 0.85925231, 0.18250681... 阅读全文
posted @ 2018-01-03 10:19 彼岸花杀是条狗 阅读(1766) 评论(0) 推荐(0) 编辑
摘要: 变分对于普通的函数f(x),我们可以认为f是一个关于x的一个实数算子,其作用是将实数x映射到实数f(x)。那么类比这种模式,假设存在函数算子F,它是关于f(x)的函数算子,可以将f(x)映射成实数F(f(x)) 。对于f(x)我们是通过改变x来求出f(x)的极值,而在变分中这个x会被替换成一个函数y(x),我们通过改变x来改变y(x),最后使得F(y(x))求得极值。变分:指的是泛函的变分。打个比... 阅读全文
posted @ 2018-01-03 02:38 彼岸花杀是条狗 阅读(52371) 评论(0) 推荐(8) 编辑