随笔分类 - 机器学习（转载）
摘要：关于ADMM的研究（二）4. Consensus and Sharing本节讲述的两个优化问题，是非常常见的优化问题，也非常重要，我认为是ADMM算法通往并行和分布式计算的一个途径：consensus和sharing，即一致性优化问题与共享优化问题。Consensus4.1 全局变量一致性优化（Gl...
阅读全文
摘要：关于ADMM的研究（一）最近在研究正则化框架如何应用在大数据平台上。找到了《Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers》这篇文章，感觉很适合...
阅读全文
摘要：Dirichlet Process 和 Dirichlet Process Mixture模型[本文链接：http://www.cnblogs.com/breezedeus/archive/2012/11/05/2754940.html，转载请注明出处。]Dirichlet Process (DP)...
阅读全文
摘要：也说说EM[本文链接：http://www.cnblogs.com/breezedeus/archive/2012/08/12/2634466.html，转载请注明出处]前几天看Andrew Ng 讲EM的视频，又温习了一遍这玩意。EM的想法其实也比较简单。我要最大化似然函数（或者后验概率），但是直...
阅读全文
摘要：Seven Steps to SuccessMachine Learning in PracticeProject failures in IT are all too common. The risks are higher if you are adopting a new technology...
阅读全文
摘要：推荐系统中常用算法 以及优点缺点对比在推荐系统简介中，我们给出了推荐系统的一般框架。很明显，推荐方法是整个推荐系统中最核心、最关键的部分，很大程度上决定了推荐系统性能的优劣。目前，主要的推荐方法包括：基于内容推荐、协同过滤推荐、基于关联规则推荐、基于效用推荐、基于知识推荐和组合推荐。一、基于内容推荐...
阅读全文
摘要：The Model Complexity Myth(or, Yes You Can Fit Models With More Parameters Than Data Points)An oft-repeated rule of thumb in any sort of statistical mo...
阅读全文
摘要：猜你喜欢-----推荐系统原理介绍写在正文之前最近在做推荐系统，在项目组内做了一个分享。今天有些时间，就将逻辑梳理一遍，将ppt内容用文字沉淀下来，便于接下来对推荐系统的进一步研究。推荐系统确实是极度复杂，要走的路还很长。A First Glance为什么需要推荐系统——信息过载随着互联网行业的井喷...
阅读全文
摘要：机器学习是什么--周志华机器学习现在是一大热门，研究的人特多，越来越多的新人涌进来。不少人其实并没有真正想过，这是不是自己喜欢搞的东西，只不过看见别人都在搞，觉着跟大伙儿走总不会吃亏吧。问题是，真有个“大伙儿”吗？就不会是“两伙儿”、“三伙儿”？如果有“几伙儿”，那到底该跟着“哪伙儿”走呢？很多人可...
阅读全文
摘要：Matlab聚类分析[转]Matlab提供系列函数用于聚类分析，归纳起来具体方法有如下： 方法一：直接聚类，利用clusterdata函数对样本数据进行一次聚类，其缺点为可供用户选择的面较窄，不能更改距离的计算方法，该方法的使用者无需了解聚类的原理和过程，但是聚类效果受限制。 方法二：层次聚类，该方...
阅读全文
摘要：干货：机器学习领域的几种主要学习方式，如深度学习学习方式 根据数据类型的不同，对一个问题的建模有不同的方式。在机器学习或者人工智能领域，人们首先会考虑算法的学习方式。在机器学习领域，有几种主要的学习方式。将算法按照学习方式分类是一个不错的想法，这样可以让人们在建模和算法选择的时候考虑能根据输入数据...
阅读全文
摘要：An Attempt to Understand Boosting Algorithm(s)WELCOME!Here you will find dailynews and tutorials about R, contributed by over 573 bloggers.There are m...
阅读全文
摘要：100 open source Big Data architecture papers for data professionals.Big Data technology has been extremely disruptive with open source playing a domin...
阅读全文
摘要：简单易学的机器学习算法——EM算法一、机器学习中的参数估计问题 在前面的博文中，如“简单易学的机器学习算法——Logistic回归”中，采用了极大似然函数对其模型中的参数进行估计，简单来讲即对于一系列样本，Logistic回归问题属于监督型学习问题，样本中含有训练的特征以及标签，在Logistic...
阅读全文
摘要：真正的人工智能离我们有多远在知乎上看到一个问题《如何看待2014年计算机视觉创业潮》。王乃岩大神说，现在是一个深度学习引发深刻变革的时代。不仅创业公司借上了这股东风，人工智能研究似乎也有了突破的希望。真正的人工智能离我们有多远？答主给了个比较谨慎的估计：至少还需要两三个这样的变革。我对这个问题的回答...
阅读全文
摘要：Netflix工程总监眼中的分类算法：深度学习优先级最低摘要：不同分类算法的优势是什么？Netflix公司工程总监Xavier Amatriain根据奥卡姆剃刀原理依次推荐了逻辑回归、SVM、决策树集成和深度学习，并谈了他的不同认识。他并不推荐深度学习为通用的分类技术。【编者按】针对Quora上的一...
阅读全文
摘要：机器学习：更多的数据总是优于更好的算法吗？摘要：Netflix公司工程总监Xavier Amatriain认为，增加更多的样本到训练集很多时候并不会提高模型的性能，我们需要的是好的方法，来帮助我们理解如何解释数据，模型，以及两者的局限性，这都是为了得到最好的输出。【编者按】在机器学习中，更多的数据总...
阅读全文
摘要：In machine learning, is more data always better than better algorithms?No. There are times when more data helps, there are times when it doesn't.Proba...
阅读全文
摘要：Logistic回归Part I: 线性回归线性回归很常见，给你一堆点，作出一条直线，尽可能去拟合这些点。对于多维的数据，设特征为xi，设函数h(θ)=θ+θ1x1+θ2x2+....θnxn为拟合的线性函数，其实就是内积，实际上就是y=wTx+b那么如何确定这些θ参数（parament）才能保证拟...
阅读全文
摘要：Softmax回归Reference：http://ufldl.stanford.edu/wiki/index.php/Softmax_regressionhttp://deeplearning.net/tutorial/logreg.html起源：Logistic的二类分类Softmax回归是Lo...
阅读全文