深度学习 - 标签 - bonelee

bonelee 2018-03-16 15:32 阅读:4301 评论:0 推荐:1 编辑

理解dropout——本质是通过阻止特征检测器的共同作用来防止过拟合 Dropout是指在模型训练时随机让网络某些隐含层节点的权重不工作，不工作的那些节点可以暂时认为不是网络结构的一部分，但是它的权重得保留下来（只是暂时不更新而已），因为下次样本输入时它可能又得工作了

bonelee 2018-03-16 15:05 阅读:701 评论:1 推荐:0 编辑

正则化方法：L1和L2 regularization、数据集扩增、dropout

bonelee 2018-03-16 10:25 阅读:5405 评论:0 推荐:0 编辑

受限玻尔兹曼机——用在推荐系统里

bonelee 2018-03-14 10:43 阅读:1344 评论:2 推荐:0 编辑

深度学习——自动编码器，对称网络结构

bonelee 2018-03-14 10:21 阅读:5979 评论:1 推荐:0 编辑

深度学习——无监督，自动编码器——尽管自动编码器与 PCA 很相似，but自动编码器既能表征线性变换，也能表征非线性变换；而 PCA 只能执行线性变换

bonelee 2018-03-14 10:13 阅读:3111 评论:2 推荐:0 编辑

CNN 文本分类模型优化经验——关键点：加卷积层和FC可以提高精度，在FC前加BN可以加快收敛，有时候可以提高精度，FC后加dropout，conv_1d的input维度加大可以提高精度，但是到256会出现OOM。

bonelee 2018-03-09 16:20 阅读:3215 评论:1 推荐:0 编辑

padding valid same区别——就是是否补齐0的问题

bonelee 2018-03-09 11:00 阅读:5829 评论:0 推荐:0 编辑

神经网络结构设计指导原则——输入层：神经元个数=feature维度输出层：神经元个数=分类类别数，默认只用一个隐层如果用多个隐层，则每个隐层的神经元数目都一样

bonelee 2018-03-09 10:06 阅读:6494 评论:0 推荐:0 编辑

积神经网络的参数优化方法——调整网络结构是关键！！！你只需不停增加层，直到测试误差不再减少.

bonelee 2018-03-08 15:45 阅读:56206 评论:1 推荐:8 编辑

seq2seq里的数学

bonelee 2018-03-01 09:47 阅读:1609 评论:0 推荐:0 编辑

Attention机制讲解——其实本质思想很简单，给你一句话I am a king. 让你生成下面一句话，你第一眼想到的power，至高无上，高贵这些词，这些就是高注意力（权重）单词，而attension就是学习到这些权重而已

bonelee 2018-02-28 18:25 阅读:934 评论:0 推荐:2 编辑

深度学习的seq2seq模型——本质是LSTM，训练过程是使得所有样本的p(y1,...,yT‘|x1,...,xT)概率之和最大

bonelee 2018-02-28 16:57 阅读:18952 评论:0 推荐:0 编辑

Ubuntu17.10 下配置caffe 仅CPU i386可以直接apt install caffe-cpu，但是怎么运行mnist代码我懵逼了

bonelee 2018-02-11 15:29 阅读:581 评论:0 推荐:0 编辑

local_response_normalization 和 batch_normalization

bonelee 2018-01-31 15:48 阅读:1163 评论:0 推荐:0 编辑

交叉熵代价函数——当我们用sigmoid函数作为神经元的激活函数时，最好使用交叉熵代价函数来替代方差代价函数，以避免训练过程太慢

bonelee 2018-01-31 15:38 阅读:1537 评论:0 推荐:0 编辑

深度学习必备：随机梯度下降（SGD）优化算法及可视化

bonelee 2018-01-31 15:12 阅读:68635 评论:0 推荐:5 编辑

tflearn中num_epoch含义就是针对所有样本的一次迭代

bonelee 2018-01-30 10:09 阅读:3966 评论:0 推荐:0 编辑

针对深度学习（神经网络）的AI框架调研

bonelee 2018-01-25 20:06 阅读:840 评论:0 推荐:0 编辑

学界| UC Berkeley提出新型分布式框架Ray：实时动态学习的开端—— AI 应用的系统需求：支持（a）异质、并行计算，（b）动态任务图，（c）高吞吐量和低延迟的调度，以及（d）透明的容错性。

bonelee 2018-01-22 12:11 阅读:732 评论:1 推荐:0 编辑

将者，智、信、仁、勇、严也。

Hi，我是李智华，华为-安全AI算法专家，欢迎来到安全攻防对抗的有趣世界。

当前标签：深度学习

公告

搜索

常用链接

我的标签

随笔档案

阅读排行榜

评论排行榜

推荐排行榜

最新评论