10 2014 档案
摘要:Hinton课程第二课一、NN结构的主要类型的概述 这里的结构就是连接在一起的神经元。目前来说,在实际应用中最常见的NN就是前向NN,他是将数据传递给输入单元,通过隐藏层最后到输出层的单元;一个更有趣的结构是递归神经网络RNN,这种网络能够将信息保存很久,所以能够表现各种有趣的震荡,但是却也难...
阅读全文
摘要:稀疏过滤 Jiquan Ngiam,Pang Wei Koh,Zhenghao Chen,Sonia Bhaskar,Andrew Y.Ng 摘要:无监督特征学习能够在图像、视频和语音分类上高效的学习表征是众所周知的。然而现今很多特征学习算法却很难被使用,而且需要大量的超参数调整。在本文中,我们提出
阅读全文
摘要:这是DL的发明人Hinton在多伦多大学的2013年冬季教授de课程,并将视频分享到coursera网站上。其中不但有视频,也有课件,但是Hinton主页上还有他上课的课后问题,Hinton告诉学生这些视频作为课前看看,课中在讨论和上课,其实这种方法很好。可惜估计一辈子也看不到大牛了,只能沾沾他...
阅读全文
摘要:来自ng的ml-003中 18_XVIII._Application_Example-_Photo_OCR 这是ng2013年在coursera上最后的一课了。这一系列的几个视频还是相比前面有些难懂,。。。。。。 ng说拿这个做例子有三个原因:一、演示如何将复杂的机器学习进行融合;二介绍下机器学习的
阅读全文
摘要:来自ng的ml-003 17_XVII._Large_Scale_Machine_Learning 这里的大型机器学习是将算法应用到大数据集上,回顾前10年或者前5年,机器学习有了较好的发展是因为有了很多的数据集的出现。为了得到一个低bias算法 一、引言 在机器学习界 这是很广泛赞同的一句话,不是
阅读全文
摘要:来自ng ml-003 的16_XVI._Recommender_Systems 还有17 和18 ng的ml-003就能够看完了。 推荐系统,常见于广告推送,比如亚马逊或者京东,等你购买东西之后他就会知道你喜欢什么。 一、推荐系统 假设一个电影评价系统,等级有5个星星,其中现在有4个评价者,在5部
阅读全文
摘要:来自ng 的ml-003 15_XV._Anomaly_Detection 异常检测本是一个无监督问题,但是也类似于一个有监督问题。就是在大量的无标签数据中检测那些异常的样本 一、异常检测的概念 假设是考虑的飞机引擎问题,这里有至少2个特征,图中的红色叉就是根据以往的数据所可视化的正常的样本,这是按
阅读全文
摘要:ng-ml-003 中的14_XIV._Dimensionality_Reduction 一、数据压缩 其实维度约间就是为了将一个样本在维度很高的情况下省略很多不需要的特征,使得能够以很少的特征数量来表示一个样本的表征,但是却也需要保存精度,其中最出名的要数PCA了, 这里是举例将多个样本从原有的2
阅读全文
摘要:依旧来自于ng的ml-003中的clustering部分课程 聚类是极其学习中永不过时的问题,一般有着有监督和无监督 还有半监督,但是视频中主要还是说的前两个。 一、聚类引言 一 上下两个图就是直观的说明什么是有监督训练什么是无监督训练。可以看出当有监督训练的时候是通过标签来辅助训练模型的参数,而在
阅读全文
摘要:ng的MI-003中12 ——SVM 一、svm目标函数的由来 视频先将LR的损失函数: 在上图中,先将y等于0 和y等于1的情况集合到一起成为一个损失函数,然后分别讨论当y等于1的时候损失函数的结果图(上图左)和y等于0的时候的损失函数的结果图(上图右),这里先采用的是单一样本情况,而且图中的co
阅读全文
摘要:这个结构是10年Quoc V.Le等人提出的,这里的tiled,按照 Lecun的解释是Locally-connect non shared.即是局部连接,而且不是共享的,这是针对于权重来说的。本文翻译如有错误,还望指正,谢谢!!这篇论文是10年的,相比较来说四年的东西,比较旧了,可是这个tcn...
阅读全文