摘要: 我们给定一个三个时间的RNN单元,如下: 我们假设最左端的输入 为给定值, 且神经元中没有激活函数(便于分析), 则前向过程如下: 在 时刻, 损失函数为 ,那么如果我们要训练RNN时, 实际上就是是对 求偏导, 并不断调整它们以使得 尽可能达到最小(参见反向传播算法与梯度下降算法)。 那么我们得到 阅读全文
posted @ 2019-07-09 19:13 USTC丶ZCC 阅读(1223) 评论(2) 推荐(0) 编辑
摘要: 写在前面:首先需要明确了解的是正负样本比例悬殊不是本质原因,而是表象,不均衡导致模型表现差的本质原因是;1.类别分布的重叠,简单来说就是不同类别的特非常接近,或者更极端的是特征没差的情况下标签却不同;2.噪声问题,很多完全没用的样本被引入,比如因为一些意外的原因标注错误的样本等;3.类别分布的子分布 阅读全文
posted @ 2019-07-09 13:23 USTC丶ZCC 阅读(2565) 评论(0) 推荐(0) 编辑
摘要: 1.安装依赖包hmmlearn 直接pip install hmmlearn可能会报错(安装这个模块需要使用C环境编译) 可以尝试用 conda install -c omnia hmmlearn安装。 2.详细关于HMM的知识可以看这篇博客 阅读全文
posted @ 2019-07-09 11:32 USTC丶ZCC 阅读(357) 评论(0) 推荐(0) 编辑
摘要: 对于简单、无状态的自定义操作,你也许可以通过 layers.core.Lambda 层来实现。但是对于那些包含了可训练权重的自定义层,你应该自己实现这种层。 这是一个 Keras2.0 中,Keras 层的骨架(如果你用的是旧的版本,请更新到新版)。你只需要实现三个方法即可: build(input 阅读全文
posted @ 2019-07-09 10:08 USTC丶ZCC 阅读(21728) 评论(2) 推荐(1) 编辑
摘要: 1,.为什么要用激活函数? 答:如果不用激励函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合。 如果使用的话,激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。 2.常用的激活函数以及它们的优缺点 阅读全文
posted @ 2019-07-08 21:45 USTC丶ZCC 阅读(671) 评论(0) 推荐(0) 编辑
摘要: 要了解深度学习中的注意力模型,就不得不先谈Encoder-Decoder框架,因为目前大多数注意力模型附着在Encoder-Decoder框架下,当然,其实注意力模型可以看作一种通用的思想,本身并不依赖于特定框架,这点需要注意。 Encoder-Decoder框架可以看作是一种深度学习领域的研究模式 阅读全文
posted @ 2019-07-07 21:05 USTC丶ZCC 阅读(8278) 评论(0) 推荐(0) 编辑
摘要: 一.在处理pandas表格数据时,有时会遇到这样的问题:按照某一列聚合后,判断另一列是否出现唯一值,比如安泰杯--跨境电商比赛中,某个商人的ID如果出现在两个国家(xx和yy),则要剔除这样的数据,这就需要我们按照商人ID进行groupby,然后判断每个商人所属的国家是否值唯一,不唯一则剔除。 de 阅读全文
posted @ 2019-07-01 22:45 USTC丶ZCC 阅读(1716) 评论(0) 推荐(0) 编辑
摘要: 网上大部分教程都是:创建tensorflow虚拟环境(conda create -n tensorflow python=3.6),然后在虚拟环境中pip install tensorflow,但是每次启动时都要激活虚拟环境(activate tensorflow)! 其实可以不用创建虚拟环境直接安 阅读全文
posted @ 2019-07-01 17:34 USTC丶ZCC 阅读(2454) 评论(1) 推荐(0) 编辑
摘要: 一、Voting 模型融合其实也没有想象的那么高大上,从最简单的Voting说起,这也可以说是一种模型融合。假设对于一个二分类问题,有3个基础模型,那么就采取投票制的方法,投票多者确定为最终的分类。 二、Averaging 对于回归问题,一个简单直接的思路是取平均。稍稍改进的方法是进行加权平均。权值 阅读全文
posted @ 2019-07-01 16:52 USTC丶ZCC 阅读(1002) 评论(0) 推荐(0) 编辑
摘要: 假设有这样的房间 如果将房间表示成点,然后用房间之间的连通关系表示成线,如下图所示: 这就是房间对应的图。我们首先将agent(机器人)处于任何一个位置,让他自己走动,直到走到5房间,表示成功。为了能够走出去,我们将每个节点之间设置一定的权重,能够直接到达5的边设置为100,其他不能的设置为0,这样 阅读全文
posted @ 2019-06-26 09:27 USTC丶ZCC 阅读(6272) 评论(1) 推荐(0) 编辑