摘要:
特征学习 (Self_taught Learning)简介 如果已经有一个足够强大的机器学习算法,为了获得更好的性能,最靠谱的方法之一是给这个算法以更多的数据。机器学习界甚至有个说法:“有时候胜出者并非有最好的算法,而是有更多的数据。” 在自学习和无监督特征学习问题上,可以给算法以大量的未标... 阅读全文
摘要:
Exercise:Self-Taught Learning 代码示例练习参考Self-Taught Learning结合使用稀疏自编码器和Softmax分类器对0到4的手写数字进行分类。首先利用稀疏自编码器无监督学习手写数字5到9的特征。利用学到的权重和偏置计算手写数字0到4的激活值,并将激活值作为... 阅读全文
摘要:
Exercise:Softmax Regression 代码示例练习参考Softmax RegressionsoftmaxCost.m 中加入代码:M = theta*data;M = exp(bsxfun(@minus, M, max(M, [], 1)));P = bsxfun(@rdivide... 阅读全文
摘要:
Deep learning:十五(Self-Taught Learning练习)前言: 本次实验主要是练习soft- taught learning的实现。参考的资料为网页:http://deeplearning.stanford.edu/wiki/index.php/Exercise:Self-... 阅读全文
摘要:
Deep learning:十三(Softmax Regression)在前面的logistic regression博文Deep learning:四(logistic regression练习)中,我们知道logistic regression很适合做一些非线性方面的分类问题,不过它只适合处理二... 阅读全文
摘要:
Softmax回归代码详解简介Sfotmax回归分析是logistic回归分析在多个分类问题上面的发展。Logistic回归中,训练集由m个标签样本组合构成:对于给定的测试输入,我们想用假设函数针对每一个类别j估算出概率值p(y=j|x)。也就是说,我们想估计x的每一种分类结果出现的概率。,我们的假... 阅读全文
摘要:
Deep learning:十四(Softmax Regression练习)前言: 这篇文章主要是用来练习softmax regression在多分类器中的应用,关于该部分的理论知识已经在前面的博文中Deep learning:十三(Softmax Regression)有所介绍。本次的实验内容是... 阅读全文
摘要:
总结:1)softmax的一个介绍,现在才感觉到UFLDL就是直接上,详细的没有。2)细节上各方面,展示的很到位。3)算是学会了函数bsxfun的使用方法。4)5)问题:1)由于对于矩阵运算不懂,以及softmax的基本原理不懂,以及lbfgs不懂,所以还是理解不到位的。2)softmaxCost.... 阅读全文
摘要:
8个提高数据分析工作效率的技巧本文由ChrisMu翻译向36大数据投稿,并经由36大数据编辑发布,原文作者Kunal Jain。任何不标明来源36大数据及本文链接http://www.36dsj.com/archives/37108 均为侵权。前言我刚和一位老友恢复了联系。她一直对数据科学很感兴趣,... 阅读全文
摘要:
LSTM简介以及数学推导(FULL BPTT)前段时间看了一些关于LSTM方面的论文,一直准备记录一下学习过程的,因为其他事儿,一直拖到了现在,记忆又快模糊了。现在赶紧补上,本文的组织安排是这样的:先介绍rnn的BPTT所存在的问题,然后介绍最初的LSTM结构,在介绍加了遗忘控制门的,然后是加了pe... 阅读全文
摘要:
LSTM in depthHOMEARCHIVESNOTESABOUTNEUTRONESTAlwaysCREATIVE.Welcome!MOREToggle navigationWIR MÜSSEN WISSEN,WIRwerdenWISSEN.北宇治高校研究部 | 魂魄妖夢の白玉樓2015-11-... 阅读全文
摘要:
Awesome Reinforcement LearningA curated list of resources dedicated to reinforcement learning.We have pages for other topics:awesome-rnn,awesome-deep-... 阅读全文
摘要:
Softmax公式推导UFLDL的教程(http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92)中提到了Softmax回归,直接给出了梯度更新公式,但是没有给出公式推导。这里对公式推导进行简单的补充说明。 阅读全文
摘要:
Exercise:PCA and Whitening 代码示例练习参考PCA and Whitening,与上一个练习基本一致。更改图像数据的均值[plain]view plaincopyavg=mean(x,1);x=x-repmat(avg,size(x,1),1);Implement PCA ... 阅读全文
摘要:
matlab学习笔记 bsxfun函数最近总是遇到bsxfun这个函数,前几次因为无关紧要只是大概看了一下函数体去对比结果,今天再一次遇见了这个函数,想想还是有必要掌握的,遂查了些资料总结如下。函数bsxfun【功能描述】两个数组间元素逐个计算.【应用场合】当我们想对一个矩阵A的每一列或者每一行与同... 阅读全文
摘要:
总结:1)前一个实验在自然图像上的拓展。2)主要是展示了PCA处理后的图像的协方差矩阵基本为对角阵的这个现象,方便以后检验,而且要加正则项。3)代码中给了一个如果从图像中选择小块的代码样例sampleIMAGESRAW.m4)PCA降维的数据还是可以查看的,但是白化后的数据就没办法看了。5)问题:1... 阅读全文