摘要:
门控循环单元GRU学习笔记 比LSTM更简单的结构 只记住相关的观察需要: 更新门 -- 能关注的机制 重置门 -- 能遗忘的机制 门,是和隐藏状态同样长度的向量。 下面公式中的几个参数: $H_{t-1}$是隐藏状态; $X_t$是输入; $\sigma$是有激活函数sigmod的fc层,输出范围 阅读全文
摘要:
一、异或运算(⊕、XOR、EOR、EX-OR) 同为0,异为1 异或公式: a ⊕ b = (¬a ∧ b) ∨ (a ∧¬b) 出现的几个数学符号的解释: ¬:非运算,¬1=0,¬0=1 ∧:且运算,1∧1=1,1∧0=0,0∧1=0,0∧0=0 ∨:或运算,1∨1=1,1∨0=1,0∨1=1,0 阅读全文