07 2018 档案
摘要:两种非常常见的非线性单元:rectified linear units (ReLUs) 和 leaky ReLUs 我们选取binary hinge loss进行二分类 对于多分类,我们可以定义multiclass hinge loss 定义Ω为网络的参数空间, L(ω)为loss。 由于我们选了R
阅读全文
摘要:本篇文章的介绍了一个非常简单的门限RNN(gated recurrent neural network), 这里有两扇门horizontal/forget gate和vertical/input gate, 即 其中 (logistic sigmoid function) 下面假设输入数据xt满足如
阅读全文
摘要:每个网络节点都具有不同的动态行为 信号的时间延迟可能沿着网络链路发生 网络的隐藏部分具有循环连接 输入和内部权重是固定的并随机选择 在训练期间仅调整输出权重。(加速训练) Figure 1.. Illustration of the reservoir computer architecture.
阅读全文
摘要:原文:http://tkipf.github.io/graph-convolutional-networks/ 多层图卷积网络 (GCN) with first-order filters. GCNs Part I: Definitions 给定一个网络结构G=(V,E), 1. N个节点,每个节点
阅读全文