摘要: 为什么需要做归一化或者标准化 一句话解释就是为了让我们求解loss最低值的过程中更加的平稳和缓,容易收敛。 具体解释可以看这里: 特征工程中的「归一化」有什么作用? 忆臻的回答 知乎 https://www.zhihu.com/question/20455227/answer/197897298 用 阅读全文
posted @ 2019-06-04 11:56 DUDUDA 阅读(1234) 评论(0) 推荐(0) 编辑
摘要: 卷积层池化和激活函数的顺序 简单来讲,先池化后激活和先激活后池化得到的效果是一样的,先池化进行了下采样,那么在激活函数的时候就减少了消耗 "Activation function after pooling layer or convolutional layer?" 阅读全文
posted @ 2019-06-04 11:55 DUDUDA 阅读(4816) 评论(0) 推荐(0) 编辑
摘要: 请问batch_normalization做了normalization后为什么要变回来? 请问batch_normalization做了normalization后为什么要变回来? 莫驚蟄的回答 知乎 https://www.zhihu.com/question/55917730/answer/1 阅读全文
posted @ 2019-06-04 11:55 DUDUDA 阅读(215) 评论(0) 推荐(0) 编辑
摘要: 归一化和标准化的使用场景以及归一化和标准化有没有改变数据分布 具体讲解可以看这里: 特征工程中的「归一化」有什么作用? 微调的回答 知乎 https://www.zhihu.com/question/20455227/answer/370658612 从这个答案我们知道,标准化和归一化在数据确定的条 阅读全文
posted @ 2019-06-04 11:53 DUDUDA 阅读(1266) 评论(0) 推荐(0) 编辑
摘要: 项目背景: 根据用户特征,寻找相似用户; 最开始想法:找到用户特征,使用余弦相似度寻找相似用户; 这个想法很base,不过会遇到一个非常大的问题,就是我这个项目将来是要覆盖全站用户,上亿用户的情况下,两两计算相似度,这个算法的复杂度是n的平方,是很大的,现在的计算资源是不支持的。 在这个时候,我在知 阅读全文
posted @ 2019-05-08 12:55 DUDUDA 阅读(503) 评论(0) 推荐(0) 编辑
摘要: LSH算法 如果一篇文档由100维单词组成,LSH做的事情就是通过对维度分隔,从而对不同文档进行分桶。 如果我准备对100维度分成5个部分,每个部分对应20个维度。序列号为1,2,3,4,5 按照顺序来对比,如果1号中,两个文档的特征是一样的,就分到一个桶里面,如果不一样,就继续看2号,直到5完成。 阅读全文
posted @ 2019-05-08 12:54 DUDUDA 阅读(1567) 评论(0) 推荐(0) 编辑
摘要: minhash算法 大数据量计算相似度的时候,我们使用minhash(最小哈希)进行降维,使用LSH算法进行近似查询。 相似性的度量: 使用雅卡尔系数,交集数量除以并集数量。 以文档为例,组成成分为单词。我们将单词量化为数值,那么一个文档的构成可以有一个数值单词表构成,0表示存在,1表示不存在。 我 阅读全文
posted @ 2019-05-08 12:53 DUDUDA 阅读(542) 评论(0) 推荐(0) 编辑
摘要: 1. "cs224n 自然语言处理官方网址" "cs224n 自然语言处理 哔哩视频" 对于这个视频我们直接看2017年的bilibili视频就好,翻译的比较好,2019年的哔哩翻译的不太好 "AI算法工程师手册" "博主github" 2. 命名体识别 NLP实战 中文命名实体识别 MaggicQ 阅读全文
posted @ 2019-04-11 18:03 DUDUDA 阅读(158) 评论(0) 推荐(0) 编辑
摘要: "这个朋友自己写了一个深度学习框架我觉得写得很好" /) 通过阅读这个朋友的博文,我知道他学会自己编写深度学习框架爱是通过陈天奇的课程CSE599,通过这个课程学会了自己编写深度学习框架和CUDA编程。可以通过这个博文知道 "这里" 对于CSE599 这门课程,陈天奇自己也有介绍,并且他自实现一个机 阅读全文
posted @ 2019-04-10 17:15 DUDUDA 阅读(218) 评论(0) 推荐(0) 编辑
摘要: C++教程 https://blog.csdn.net/yong2016/article/details/9321837 B站/慕课上搜索翁凯c c++ java 这个老师的课可以入门,如果想深入,以后我再找相应的办法 C语言 https://www.bilibili.com/video/av152 阅读全文
posted @ 2019-04-10 17:14 DUDUDA 阅读(163) 评论(0) 推荐(0) 编辑