maxwell_tesla

摘要： 一、误差： 误差分为经验误差和泛化误差，都是指理论上的期望误差。 经验误差指在训练集上的误差，泛化误差指得到的模型在新样本上的误差。 泛化误差是我们比较看重的，泛化误差越小越好。但是，在训练中，我们也希望经验误差越小越好，但是有时候经验误差太小，反而会导致泛化误差没那么好。 所以，就引出了另一个名词 阅读全文

摘要： 1、常用神经网络结构中有个叫RNN的，即循环神经网络。 假设有n个cell，从第一个cell开始说起。 state 0+time0 进入cell ，cell处理，处理后的结果，可以分成两个相同的，一个用来输出该层的输出，另一个送给下一个cell，当然，分成两个相同的之后，想怎么变就怎么变。 对第二个 阅读全文

摘要： python内置函数，用于遍历并返回一个可迭代对象的所有对象，和编号 阅读全文

摘要： python里，zip用于打包元组 阅读全文

摘要： 首先明白这个事干嘛的，在我们做求导的时候，会遇到一种情况，求导函数突然变得特别陡峭，是不是意味着下一步的进行会远远高于正常值，这个函数的意义在于，在突然变得陡峭的求导函数中，加上一些判定，如果过于陡峭，就适当减小求导步伐。 tf.clip_by_global_norm(t_list, clip_no 阅读全文

摘要： L2范数即欧式距离 l3范数即每个值立方和之后开三次根号 阅读全文

摘要： tf.trainable_variables返回的是可以用来训练的变量列表 tf.all_variables返回的是所有变量的列表 阅读全文

摘要： tf.concat(concat_dim, values, name='concat') concat_dim需要连接的矩阵的维度， values需要连接的两个矩阵。 a=[【1,2,3]，【7,8,9】】 b=[【4,5,6]，【10,11,12】】 tf.concat(0, [a,b], nam 阅读全文

摘要： 其中，tensor是向量，或者说矩阵 shape是转换后的向量，或者转换后的矩阵形状 【2,1】转换成二行一列 【2，-1】转成二行，几列呢？由于-1的意思是，计算机自己计算需要几列，反正我就要两行。 -1表示计算机自己计算参数 阅读全文

摘要： 1、tf.variable（<variable_name>）与tf.get_variable（<variable_name>）: 前者创建变量的时候，遇到相同变量，会自动处理掉，处理的方式是重命名，1-1 ，1-1-1这样。后者创建变量的时候，实际上是获取变量，当变量存在的时候，直接获取，当变量不存 阅读全文