ylxn

摘要： 一、梯度消失与梯度爆炸 1、在DNN学习（二）反向传播中，观察公式三（3），为了求隐藏层参数的其中一步。根据链式法则，有 重新复习一下，J为损失函数。o为神经元的值，也是输入通过激励函数之后的值，z为上一层的神经元的线性变换的值。 2、那么下面上面式子中的这一步就是对激励函数的求导： 3、如果隐藏层 阅读全文

摘要： 一、DNN 简介 DNN一共可以分为三层。 输入层（input layer） 隐藏层（hidden layer） 输出层（output layer） DNN的前向传播即由输入经过一些列激活函数得到最终的输出 在对DNN参数求解的时候，通过反向传播，以及链式法则求得。 二、Tensorflow下的DN 阅读全文

摘要： 摘自 1.李航的《统计学习方法》 2.https://www.cnblogs.com/pinard/p/6945257.html 了解HMM模型 1.隐马尔可夫模型的定义 隐马尔可夫模型是关于时序的概率模型，该模型是由隐藏的马尔可夫链生成不可观测的状态序列，再由各个状态序列生成一个观测序列的过程。 阅读全文

摘要： 看了几篇博客，说用CountDownLatch实现一个先执行完子线程，再执行主线程的例子。因此写一篇博客总结一下。 一、CountDownLatch了解 1.CountDownLatch继承了AbstractQueuedSynchronizer类,很多方法都封装了在这个类里面，感兴趣可以看一下。内部 阅读全文

摘要： 摘自李航的《统计学习方法》 一、先看一个小例子 给定一个骰子，没有任何前提条件，问抛掷各个点数的概率是多少？我们都会答1/6. 因为没有更多的信息，所以这种判断合理。 二、最大熵原理 上面的例子应用了最大熵原理。最大熵原理认为，在判断样本的分布时候，在满足已有条件下，熵最大的分布即为最好的分布。最大 阅读全文

摘要： jdk版本1.8 主要是了解下其内部原理 一、简介（粗略翻译） HashMap实现了Map接口。HashMap非线程安全，并且HashMap的Key和Value都可以是null值。其它方面HashMap和HashTable比较像。HashMap不保证元素的顺序。 如果哈希方法适当的话，其get与pu 阅读全文

摘要： 在看HashMap的源码时候看到了TreeNode。因此需要对其进行一个了解。是一个红黑树。可以百度一下红黑树的数据结构。分析了下源码，还是比较枯燥的 红黑树的性质：本身是一个二叉查找树（所有左节点的值都比右节点的小）。另： 节点是红色或者黑色 根节点是黑色 每个叶节点（Nil节点，空节点）是黑色的 阅读全文

摘要： 摘抄自java并发实战 有时候需要对数据缓存。用Map缓存数据比较合适。但是由于对吞吐量，一致性，计算性能的要求，对数据进行缓存的设计还是需要慎重考虑的。 一、利用HashMap加同步 （1）说明 把HashMap当作缓存容器。每缓存一个key的时候，都进行同步。 （2）代码 1 package m 阅读全文

摘要： 摘自Flink官网https://flink.apache.org/ 最近看到公司有Flink平台，正好做过storm和spark streaming上的业务，借着这个机会把flink也学了。正好比较下他们之间的优缺点。 一、流式处理平台 1.Storm Topology为处理拓扑图 组成： (1) 阅读全文