YiRanLVY

摘要： 注意力seq2seq模型 大部分的seq2seq模型，对所有的输入，一视同仁，同等处理。 但实际上，输出是由输入的各个重点部分产生的。 比如： （举例使用，实际比重不是这样） 对于输出“晚上”， 各个输入所占比重: 今天 50%，晚上 50%，吃 100%，什么 0% 对于输出“吃”， 各个输入所占 阅读全文

摘要： 在做seq2seq的时候，经常需要使用sequence_loss这是损失函数。 现在分析一下sequence_loss这个函数到底在做什么 求loss值 $$ logits=\left[\begin{matrix} [1.0, 2.0] & [1.0, 2.0] \cr [1.0, 2.0] & [ 阅读全文

摘要： 使用典型seq2seq模型，得到的结果欠佳，怎么解决 结果欠佳原因在这里 在训练阶段的decoder，是将目标样本["吃","兰州","拉面"]作为输入下一个预测分词的输入。 而在预测阶段的decoder,是将上一个预测结果，作为下一个预测值的输入。（注意查看预测多的箭头） 这个差异导致了问题的产生 阅读全文

摘要： 原创文章，转载请注明出处 最近完成了sqe2seq聊天模型，磕磕碰碰的遇到不少问题，最终总算是做出来了，并符合自己的预期结果。 本文目的 利用流程图，从理论方面，回顾，总结seq2seq模型, seq2seq概念 你给模型一段输入，它返回一段输出！ 可以用在这些情景，聊天模型、翻译、看图说话、主旨提 阅读全文

摘要： 原创文章，转载请注明出处 使用vue rx插件将vue和rxjs联系起来 在main.js中将vue rx注入vue中 例子一 使用 observableMethods 选项声明observable,也可以使用this.$createObservableMethod('muchMore')创建 调用 阅读全文

摘要： 原创文章，转载请注明出处 理解 observable的每个订阅者之间，是独立的，完整的享受observable流动下来的数据的。 subject的订阅者之间，是共享一个留下来的数据的 举例 这里的clock$ 被订阅者被 observerA，observerB ，observerC 三个订阅者在不同 阅读全文

摘要： 使用场景 1. 在复杂的，频繁的异步请求场景，使用rxjs。 2. 在依赖的多个异步数据，决定渲染的情景，使用rxjs。 总之：在前台频繁的、大量的、和后台数据交互的复杂项目里面，使用rxjs（web端，iOS，android端等，客户端都可考虑使用） rxjs初步认识 1. 数据和数据观察者的绑定 阅读全文

摘要： lstm的前向结构，不迭代 最基本的lstm结构。不涉及损失值和bp过程 用lstm对mnist数据分类 阅读全文

摘要： 背景 神经网络，卷积神经网络等其他深度学习算法，都有个局限性，各个输入在算法内部是相对独立的。比如：‘星际争霸有意思，我爱玩’这句话，是有上下文关系的。 如果放在其他网络里面，各个分词将会独立处理。但是在rnn里面，可以将上文记忆下来，做为下文的运算基础。 总之：rnn适合用来解决具有上下文关系的算 阅读全文

摘要： 常用，常忘 1.随机矩阵 numpy概览 np.array的结构 矩阵格式（多维的形式） 1. 多维度的取值方式和list不同 1. nb.array.copy 深度复制 3. arange(0,100,10) 0到100 , 差值10构造等差数组 4. 布尔数组作为索引取值 5. 随机值rando 阅读全文