Fork me on GitHub

12 2017 档案

摘要:leetcode 第一天 2017年12月24日 第一次刷leetcode真的是好慢啊,三道题用了三个小时,而且都是简单题。 数组 1.(674)Longest Continuous Increasing Subsequence JAVA Python 2.(283)Move Zeroes JAVA 阅读全文
posted @ 2017-12-25 23:05 郭耀华 阅读(325) 评论(0) 推荐(0) 编辑
摘要:在训练深度网络时,为了减少需要训练参数的个数(比如具有simase结构的LSTM模型)、或是多机多卡并行化训练大数据大模型(比如数据并行化)等情况时,往往需要共享变量。另外一方面是当一个深度学习模型变得非常复杂的时候,往往存在大量的变量和操作,如何避免这些变量名和操作名的唯一不重复,同时维护一个条理 阅读全文
posted @ 2017-12-21 16:23 郭耀华 阅读(657) 评论(0) 推荐(0) 编辑
摘要:batch normalization in tensorflow requires this extra dependency 为什么加上这两句? extra_update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS) with tf.contr 阅读全文
posted @ 2017-12-19 14:19 郭耀华 阅读(1020) 评论(0) 推荐(0) 编辑
摘要:根据deeplearn.ai吴恩达深度学习课程3.11总结 因为如果W初始化为0 则对于任何Xi,每个隐藏层对应的每个神经元的输出都是相同的,这样即使梯度下降训练,无论训练多少次,这些神经元都是对称的,无论隐藏层内有多少个结点,都相当于在训练同一个函数。 阅读全文
posted @ 2017-12-17 20:45 郭耀华 阅读(4796) 评论(0) 推荐(0) 编辑
摘要:一. Batch Normalization 对于深度神经网络,训练起来有时很难拟合,可以使用更先进的优化算法,例如:SGD+momentum、RMSProp、Adam等算法。另一种策略则是高改变网络的结构,使其更加容易训练。Batch Normalization就是这个思想。 为什么要做Norma 阅读全文
posted @ 2017-12-15 11:38 郭耀华 阅读(1067) 评论(0) 推荐(1) 编辑
摘要:在阅读廖雪峰git教程时,对版本回退和暂存区撤销修改没太看懂,所以自己测试了一下。 版本回退: 这个命令用于版本回退,就是将已提交的版本覆盖本地工作区的内容。该操作会清空暂存区的内容 撤销修改: 撤销对工作区的修改,以最新一次的时间节点(add或者commit)为准,这个命令只改变工作区内容 清空暂 阅读全文
posted @ 2017-12-11 10:30 郭耀华 阅读(301) 评论(0) 推荐(0) 编辑
摘要:如图所示,输入命令:apt-get install git后提示权限不够 解决方法,在命令前加 sudo即可 sudo apt-get install git sudo是linux系统管理指令,是允许系统管理员让普通用户执行一些或者全部的root命令的一个工具,如halt,reboot,su等等。这 阅读全文
posted @ 2017-12-10 18:48 郭耀华 阅读(6315) 评论(0) 推荐(0) 编辑