2018年10月26日

摘要: 同进化算法(进化算法是受生物进化机制启发而产生的一系列算法)和人工神经网络算法(神经网络是从信息处理角度对人脑的神经元网络系统进行了模拟的相关算法)一样,群智能优化算法也属于一种生物启发式方法,它们三者可以称为是人工智能领域的三驾马车(实际上除了上述三种算法还有一些智能算法应用也很广泛,比如模拟金属 阅读全文
posted @ 2018-10-26 20:47 kexinxin 阅读(1353) 评论(0) 推荐(0)
摘要: 时间序列分析 最早的时间序列分析可以追溯到 7000 年前的古埃及。古埃及人把尼罗河涨落的情况逐天记录下来,从而构成一个时间序列。对这个时间序列长期的观察使他们发现尼罗河的涨落非常有规律,由于掌握了涨落的规律,古埃及的农业迅速发展。这种从观测序列得到直观规律的方法即为描述性分析方法。在时间序列分析方 阅读全文
posted @ 2018-10-26 20:44 kexinxin 阅读(1686) 评论(0) 推荐(0)
摘要: 循环神经网络与LSTM网络 循环神经网络RNN 循环神经网络广泛地应用在序列数据上面,如自然语言,语音和其他的序列数据上。序列数据是有很强的次序关系,比如自然语言。通过深度学习关于序列数据的算法要比两年前的算法有了很大的提升。由此诞生了很多有趣的应用,比如语音识别,音乐合成,聊天机器人,机器翻译,自 阅读全文
posted @ 2018-10-26 20:40 kexinxin 阅读(3088) 评论(0) 推荐(0)
只有注册用户登录后才能阅读该文。 阅读全文
posted @ 2018-10-26 20:37 kexinxin 阅读(11) 评论(0) 推荐(0)
摘要: 随机森林 个体与集成 通过聚集多个分类器的预测来提高分类准确率,这些技术称为组合(ensemble)或者分类器组合(classifier combination)方法。组合方法由训练数据构建一组基分类器(base classifier),然后通过对每个基分类器的预测进行投票来进行分类。 考虑一个简单 阅读全文
posted @ 2018-10-26 20:35 kexinxin 阅读(221) 评论(0) 推荐(0)
摘要: 神经网络及其实现 神经网络的表示 最小的神经网络 两层神经网络 在下图的表示中将参数b放到了中,每一层增加了一个值为1的隐藏单元 X为输入变量 为权重矩阵(所要计算的参数) 为隐藏层变量 g为激活函数 反向传播算法 下面我们从一个简单的例子入手考虑如何从数学上计算代价函数的梯度,考虑如下简单的神经网 阅读全文
posted @ 2018-10-26 20:34 kexinxin 阅读(1129) 评论(0) 推荐(0)
摘要: 论文《Piexel Recurrent Nerual Network》总结 论文:《Pixel Recurrent Nerual Network》 时间:2016 作者:Aaron van den Oord, Nal Kalchbrenner, Koray Kavukcuoglu 期刊:CCF A类 阅读全文
posted @ 2018-10-26 20:33 kexinxin 阅读(904) 评论(0) 推荐(1)
只有注册用户登录后才能阅读该文。 阅读全文
posted @ 2018-10-26 20:32 kexinxin 阅读(44) 评论(0) 推荐(0)
摘要: 为什么交叉熵可以用于计算代价函数 通用的说,熵(Entropy)被用于描述一个系统中的不确定性(the uncertainty of a system)。在不同领域熵有不同的解释,比如热力学的定义和信息论也不大相同。 要想明白交叉熵(Cross Entropy)的意义,可以从熵(Entropy) - 阅读全文
posted @ 2018-10-26 20:31 kexinxin 阅读(1597) 评论(2) 推荐(0)
摘要: 神经网络的BP推导过程 下面我们从一个简单的例子入手考虑如何从数学上计算代价函数的梯度,考虑如下简单的神经网络,该神经网络有三层神经元,对应的两个权重矩阵,为了计算梯度我们只需要计算两个偏导数即可: 首先计算第二个权重矩阵的偏导数,即 首先需要在之间建立联系,很容易可以看到的值取决于,而,而又是由取 阅读全文
posted @ 2018-10-26 20:30 kexinxin 阅读(762) 评论(0) 推荐(0)

导航