摘要：
① 用户path生效在~/.bashrc中修改path，在~/.profile中source bashrc② secureCRT着色方案底色RGB：43 43 43前景色RGB：221 221 221字体：Consolas在仿真中终端选择xterm。然后勾上ANSI颜色和使用着色方案。目录颜色跟底色... 阅读全文
摘要：
HMM隐马尔可夫，隐，说明模型里面含有隐含节点，是我们所无法直接观测到的，这些隐含节点上的状态可以称为隐含状态；马尔科夫，说明模型具有马尔科夫性，一个节点的状态只跟它的邻居有关，与其他节点无关，与时间也无关。我们把节点分为两类，状态节点（隐）和可观察节点（显）。并且假设状态节点为链式结构，每个输出（... 阅读全文
摘要：
对于一个二次函数$f(x)=Ax^2+Bx+C$，已知$x_0,y_0,x_1,y_1,y_1'$，求极值点$x^*$。已知$$\begin{cases} Ax^2_0+Bx_0+C=y_0 \\ Ax^2_1+Bx_1+C=y_1 \\ 2Ax_1+B=y_1' \\ \end{cases}$$求... 阅读全文
摘要：
能量模型RBM用到了能量模型。简单的概括一下能量模型。假设一个孤立系统（总能量$E$一定，粒子个数$N$一定），温度恒定为1，每个粒子有$m$个可能的状态，每个状态对应一个能量$e_i$。那么，在这个系统中随机选出一个粒子，这个粒子处在状态$k$的概率，或者说具有状态$k$的粒子所占的比例为：$$p... 阅读全文
摘要：
本文是我关于论文《Reasoning With Neural Tensor Networks for Knowledge Base Completion》的学习笔记。一、算法简介网络的结构为：$$g(e_1,R,e_2)=u^T_Rf(e_1^TW_R^{[1:k]}e_2+V_R\begin{bm... 阅读全文
摘要：
如果用过js/jquery、groovy等语言，大概对这样的代码比较熟悉：[1,2,3].map(function(d){...}).grep(function(d){...}).join(',')这样的对集合的链式操作不仅书写方便，而且更方便阅读。在java8中使用集合流和lamda表达式也可以达... 阅读全文
摘要：
接上篇。在(一)和(二)中，程序的体系是Net,Propagation,Trainer,Learner,DataProvider。这篇重构这个体系。Net首先是Net，在上篇重新定义了激活函数和误差函数后，内容大致是这样的：List weights = new ArrayList(); List b... 阅读全文
摘要：
孔子曰，吾日三省吾身。我们如果跟程序打交道，除了一日三省吾身外，还要三日一省吾代码。看代码是否可以更简洁，更易懂，更容易扩展，更通用，算法是否可以再优化，结构是否可以再往上抽象。代码在不断的重构过程中，更臻化境。佝偻者承蜩如是，大匠铸剑亦复如是，艺虽小，其道一也。所谓苟日新，再日新，日日新。本次对前... 阅读全文
摘要：
接上篇。Net和Propagation具备后，我们就可以训练了。训练师要做的事情就是，怎么把一大批样本分成小批训练，然后把小批的结果合并成完整的结果（批量/增量）；什么时候调用学习师根据训练的结果进行学习，然后改进网络的权重和状态；什么时候决定训练结束。那么这两位老师儿长的什么样子，又是怎么做到的呢... 阅读全文