摘要: nn:w比1大,会造成激活函数、梯度爆炸。w比1小,梯度会消失。随机化初始权重有助于解决这个问题。 RNN同样有梯度消失问题,反向传播时后面的梯度很难传到前面的层,从而影响到前面的层的计算。梯度爆炸会发生数值溢出,可以通过修剪、缩放来解决。 GRU:记忆细胞C<t>的作用是提供记忆的能力。候选值C^ 阅读全文
posted @ 2019-08-30 00:28 喜琅琅 阅读(928) 评论(0) 推荐(0) 编辑
摘要: 语言模型告诉你特定句子出现的概率是多少。 为了建立一个好的RNN模型,需要包括很大语料库的训练集。 将每个单词都转成one-hot向量,包括结尾标记和标点符号、未见单词,作为输入。 第一个时间步的输入是零向量,做一个sorftmax,输出字典里所有单词的概率。以后每一步的输入为一个单词one-hot 阅读全文
posted @ 2019-08-29 20:29 喜琅琅 阅读(869) 评论(0) 推荐(0) 编辑
摘要: Tensorflow的Eager Execution是一种命令编程环境,操作会返回具体的值。 要启动Eager Execution,请将tf.enable_eager_execution()添加到程序或控制台回话的开头。 启用Eager Execution会改变TensorFlow操作的行为方式,现 阅读全文
posted @ 2019-08-15 00:31 喜琅琅 阅读(672) 评论(0) 推荐(0) 编辑
摘要: 所谓函数化多态性,就是将程序所处理的对象的类型参数化,使得一段程序可以用于处理多种不同类型的对象。 1.函数模板 template<class T>//定义函数模板 void outputArray(const T* array,int cout){ for(int i=0;i<cout;i++) 阅读全文
posted @ 2019-08-14 00:07 喜琅琅 阅读(891) 评论(0) 推荐(0) 编辑
摘要: 1.运算符重载 #include<iostream> using namespace std; class Complex{ public: Complex(double r=0.0,double i=0.0):real(r),imag(i){} Complex operator+(const Co 阅读全文
posted @ 2019-08-13 23:25 喜琅琅 阅读(144) 评论(0) 推荐(0) 编辑
摘要: 1.循环分配器 为在客户群体中共享某一资源(比如多个应用程序共享同一CPU),可以借助队列Q实现一个资源循环分配器。 RoundRobin{//循环分配器 Queue Q(clients);//参与资源分配的所有客户组成队列Q while(!serviceClosed()){//在服务关闭之前,反复 阅读全文
posted @ 2019-08-11 16:06 喜琅琅 阅读(292) 评论(0) 推荐(0) 编辑
摘要: 1逆序输出 在栈所擅长解决的典型问题中,有一类具有以下特征:首先,虽有明确的算法,但其解答却以线性序列的形式给出;其次无论递归还是迭代实现,该序列都是依逆序计算输出的。最后,输入和输出规模的不确定,难以实现确定盛放输出数据的容器大小。因其特有的“后进先出”特性及其在容量方面的自适应性,可使用栈来解决 阅读全文
posted @ 2019-08-10 18:05 喜琅琅 阅读(491) 评论(0) 推荐(0) 编辑
摘要: 生成器函数:使用常规的def语句进行编写,但是使用yield语句一次返回一个结果,在每次结果产生之间挂起和恢复他们的状态。 生成器表达式:类似列表推导,但是,它们返回按需产生结果的一个对象,而不是创建一个结果列表。 def gensquares(N): for i in range(N): yiel 阅读全文
posted @ 2019-08-10 15:45 喜琅琅 阅读(238) 评论(0) 推荐(0) 编辑
摘要: 如果对象时实际保存的序列或是在迭代工具上下文中(例如,for循环)一次产生一个结果的对象,那么就看作是可迭代的。总之,可迭代对象包括实际序列,以及能按照需求计算的虚拟序列。术语可迭代对象与迭代器在指代支持迭代的对象的时候,常常是可以互换的。一般倾向用可迭代对象(iterable)来指代一个支持ite 阅读全文
posted @ 2019-08-10 00:04 喜琅琅 阅读(182) 评论(0) 推荐(0) 编辑
摘要: 1 类的继承方式有public(共有继承)、protected(保护继承)、private(私有继承)三种。不同的继承方式,导致原来具有不同访问属性的基类成员在派生类中的访问属性也有所不同。这里说的访问来自两个方面:一是派生类中的新增成员访问从基类继承的成员。二是在派生类外部(非类族内的成员),通过 阅读全文
posted @ 2019-08-07 23:22 喜琅琅 阅读(167) 评论(0) 推荐(0) 编辑