摘要:
关于cifar-10和mnist的weight_decay和momentum也是相当的重要;就是出现一次把cifar-10的两个值直接用在mnist上,发现错误很大。 阅读全文
2017年3月11日
2017年2月25日
摘要:
1.@inproceedings:会议 2.@article:期刊 3.@incollection:书 4.@misc:啥不是 author的名字书写: pdf显示为:G. Wang bibtex中: 方式一:G. Wang 方式二:Guangcong Wang 方式三:Wang, Guangcon 阅读全文
2017年2月21日
摘要:
http://www.ilovematlab.cn/thread-65324-1-1.html 阅读全文
2017年2月16日
摘要:
http://blog.csdn.net/shenxiaolu1984/article/details/52215983 两步: 训练判别器:最小化鉴别误差 训练生成器:最大化鉴别误差 问:训练生成器时,鉴别器那部分要fixed住吗? http://it.sohu.com/20161003/n469 阅读全文
2017年2月4日
摘要:
都是实数embedding vector 阅读全文
摘要:
概率模型的范式是这样的: 1.根据抽样建立似然函数 2.对某个参数求偏导。(实际就是最大化似然函数) 3.代入实验数据求得参数。 注意到, 1.建立目标函数要根据抽样的频数,譬如根据硬币抽样结果,抽到A硬币还是B硬币,A硬币抛了几次正面,B硬币抛了几次正面,参数是A,B的抛正面率,建立似然函数。 2 阅读全文
2017年1月21日
摘要:
一般形式为: min f(x) s.t. hi(x)=0 i=1,2,...,p,p<n (x=[x1 x2 ... xn]是n维欧式空间Rn中的向量) gj(x)≤0 j=1,2,...,m 注意: (1)f(x),hi(x),gj(x)至少有一个是非线性函数 (2)m不必小于n,不等式各种各样都 阅读全文
摘要:
一般形式: max f=cx ...(1) s.t. Ax=b ...(2) x≥0.且全部或者部分取整数值 ...(3) (1)可以是最大化也可以是最小化 (2)可以是等式的形式也可以是不等式的形式 (3)如果要求x全部分两维整数,则为纯整数规划;如果要求x的部分分量为整数,则为混合整数规划;如果 阅读全文
2017年1月20日
摘要:
优化问题实际上高中的时候学过了很多求最大最小值或者不等式,线性规划等。当时学的大多是二次或者最多是三元。现在要把它推广到更高维。本专题主要是学习和巩固一些经典的优化问题。比如,目标函数是线性,约束是线性的怎么优化呢?本文从最简单的问题入手。 一、线性规划的标准形式。 任何的线性规划可以表示为一下形式 阅读全文
2017年1月12日
摘要:
梯度消失或爆炸问题: http://blog.csdn.net/qq_29133371/article/details/51867856 阅读全文