摘要:
Understanding Convolution in DeepLearningConvolution is probably the most important concept in deep learning right now. It was convolution and convolu... 阅读全文
The Brain vs Deep Learning Part I: Computational Complexity — Or Why the Singularity Is Nowhere Near
摘要:
The Brain vs Deep Learning Part I: Computational Complexity — Or Why the Singularity Is NowhereNearJuly 27, 2015July 27, 2015Tim DettmersDeep Learning... 阅读全文
摘要:
The Brain as a Universal Learning MachineThis article presents an emerging architectural hypothesis of the brain as a biological implementation of aUn... 阅读全文
该文被密码保护。 阅读全文
摘要:
蒙特卡罗方法入门原文出处:阮一峰的日志(@ruanyf)欢迎分享原创到伯乐头条本文通过五个例子,介绍蒙特卡罗方法(Monte Carlo Method)。一、概述蒙特卡罗方法是一种计算方法。原理是通过大量随机样本,去了解一个系统,进而得到所要计算的值。它非常强大和灵活,又相当简单易懂,很容易实现。对... 阅读全文
摘要:
阅读全文
摘要:
阅读全文
摘要:
Notes on the Dirichlet Distribution and Dirichlet ProcessIn[3]:%matplotlib inlineNote:I wrote this post in an IPython notebook. It might be rendered b... 阅读全文
摘要:
Detecting diabetic retinopathy in eye imagesThe past almost four months I have been competing in aKaggle competition about diabetic retinopathy gradin... 阅读全文
摘要:
深度学习之对抗样本问题2006 年,Geoffrey Hinton 提出了深度学习。受益于大数据的出现和大规模计算能力的提升,深度学习已然成为最活跃的计算机研究领域之一。深度学习的多层非线性结构使其具备强大的特征表达能力和对复杂任务的建模能力。最近几年,深度学习的发展也带动了一系列的研究。尤其是在图... 阅读全文
摘要:
CrowdFlower Winner's Interview: 1st place, Chenglong ChenTheCrowdflower Search Results Relevancecompetition asked Kagglers toevaluate the accuracy of ... 阅读全文
摘要:
Beginners Guide To Learn Dimension Reduction TechniquesIntroductionBrevity is the soul of witThis powerful quote by William Shakespeare applies well t... 阅读全文
摘要:
各大公司广泛使用的在线学习算法FTRL详解现在做在线学习和CTR常常会用到逻辑回归(Logistic Regression),而传统的批量(batch)算法无法有效地处理超大规模的数据集和在线数据流,google先后三年时间(2010年-2013年)从理论研究到实际工程化实现的FTRL(Follow... 阅读全文
摘要:
在线最优化求解(Online Optimization)之五:FTRL在上一篇博文中中我们从原理上定性比较了L1-FOBOS和L1-RDA在稀疏性上的表现。有实验证明,L1-FOBOS这一类基于梯度下降的方法有比较高的精度,但是L1-RDA却能在损失一定精度的情况下产生更好的稀疏性。那么这两者的优点... 阅读全文
摘要:
在线最优化求解(Online Optimization)之三:FOBOSFOBOS (Forward-Backward Splitting)是由John Duchi和Yoram Singer提出的[11]。从全称上来看,该方法应该叫FOBAS,但是由于一开始作者管这种方法叫FOLOS(Forward... 阅读全文
摘要:
在线最优化求解(Online Optimization)之四:RDA不论怎样,简单截断、TG、FOBOS都还是建立在SGD的基础之上的,属于梯度下降类型的方法,这类型方法的优点就是精度比较高,并且TG、FOBOS也都能在稀疏性上得到提升。但是有些其它类型的算法,例如RDA从另一个方面来求解Onlin... 阅读全文
摘要:
在线最优化求解(Online Optimization)之一:预备篇动机与目的在实际工作中,无论是工程师、项目经理、产品同学都会经常讨论一类话题:“从线上对比的效果来看,某某特征或因素对xx产品的最终效果有很大的影响”。这类话题本质上说的是通过已有的数据反映出某些特定的因素对结果有很强的正(或负)相... 阅读全文
摘要:
在线最优化求解(Online Optimization)之二:截断梯度法(TG)在预备篇中我们做了一些热身,并且介绍了L1正则化在Online模式下也不能产生较好的稀疏性,而稀疏性对于高维特征向量以及大数据集又特别的重要。因此,从现在开始,我们沿着提升模型稀疏性的主线进行算法介绍。为了得到稀疏的特征... 阅读全文
摘要:
Ubuntu的LTS版本什么意思LTS是长期支持(Long Term Support)的缩写。 我们每六个月制作一个新的Ubuntu桌面和服务器的版本,这意味着你总能拥有开源世界提供的最新最好的应用程序,Ubuntu是基于安全而设计的,因此你能够获得至少18个月的免费桌面版和服务器版安全更新。 ... 阅读全文
摘要:
增强学习(Reinforcement Learning and Control)[pdf版本]增强学习.pdf 在之前的讨论中,我们总是给定一个样本x,然后给或者不给label y。之后对样本进行拟合、分类、聚类或者降维等操作。然而对于很多序列决策或者控制问题,很难有这么规则的样本。比如,四足机器人... 阅读全文