摘要: 最后一章Combining Models,由‘网神’主讲,精彩内容有:committees;Boosting、AdaBoost,并从最优化指数损失函数的角度对其步骤作了解释;最后是决策树和条件混合模型。 阅读全文
posted @ 2015-01-28 18:52 Nietzsche on line 阅读(940) 评论(1) 推荐(0) 编辑
摘要: 第十三章Sequential Data,由中科院软件所张巍博士主讲,精彩内容有:Hidden Markov Models的数据生成过程及其参数的EM求解方法、HMM的预测和解码。 阅读全文
posted @ 2015-01-28 15:23 Nietzsche on line 阅读(848) 评论(0) 推荐(0) 编辑
摘要: 第十二章连续隐变量,由中科院自动化所戴玮博士分三次讲完。精彩内容有:从最大方差和最小重构误差两个角度解释了PCA;包含连续隐变量的概率生成模型PPCA,其最大似然闭式解的推导以及EM求解方法;核PCA的变换;最后介绍了Autoencoder、非线性流形思想 阅读全文
posted @ 2015-01-28 15:21 Nietzsche on line 阅读(2248) 评论(0) 推荐(0) 编辑
摘要: 第十一章的主要内容是MCMC(Markov Chain Monte Carlo),包括:马尔科夫链平稳分布的定义及其充分条件:细致平稳条件的证明;Metropolis-Hastings及其接受率满足细致平稳条件的推导,接受率恒为1的Gibbs Sampling;最后是Slice Sampling、Hamiltonian MCMC。 阅读全文
posted @ 2015-01-28 15:18 Nietzsche on line 阅读(4742) 评论(0) 推荐(1) 编辑
摘要: 第十章的主要内容是变分推断(Variational Inference),由中科院自动化所戴玮博士前后分三次讲完。精彩内容有:为什么需要近似推断、变分推断用到的KL散度、根据平均场(Mean Field)思想的分解以及迭代求最优解的推导,最后用了三个例子来加深理解。 阅读全文
posted @ 2015-01-28 15:13 Nietzsche on line 阅读(9330) 评论(0) 推荐(0) 编辑
摘要: 第九章Mixture Models and EM,主要内容有:Kmeans算法;混合高斯模型以及EM(Expectation Maximization)算法在GMM中的应用;一般EM算法性质的推导和证明。 阅读全文
posted @ 2015-01-28 15:12 Nietzsche on line 阅读(1389) 评论(0) 推荐(0) 编辑
摘要: 第八章Graphical Models由‘网神’主讲,精彩内容有:贝叶斯网络和马尔科夫随机场的概念、联合概率分解、条件独立表示;图的概率推断inference。 阅读全文
posted @ 2015-01-28 15:09 Nietzsche on line 阅读(1513) 评论(0) 推荐(0) 编辑
摘要: 第七章Sparse Kernel Machines由工业界高手‘网神’主讲。主要内容:推导了支持向量机(support vector machine)的Dual Representations;由KKT条件说明了解的稀疏性;为提高泛化能力增加松弛变量后的SVM;最后是加了先验有更稀疏解的RVM。 阅读全文
posted @ 2015-01-28 15:03 Nietzsche on line 阅读(1228) 评论(0) 推荐(0) 编辑
摘要: 第六章Kernel Methods,介绍了核函数的定义、构建方法,通过线性回归的Dual Representations推导说明由基于特征到基于样本学习的转换;最后是动感十足的高斯过程Gaussian Processes,包括GP的协方差矩阵形式、超参、预测等内容。 阅读全文
posted @ 2015-01-28 15:00 Nietzsche on line 阅读(3879) 评论(0) 推荐(0) 编辑
摘要: 第五章Neural Networks由网神主讲,精彩内容有:神经网络做回归和分类的训练目标函数、BP误差后向传播的链式求导法则、正则化、卷积网络等。 阅读全文
posted @ 2015-01-28 14:59 Nietzsche on line 阅读(1427) 评论(0) 推荐(0) 编辑
摘要: 第四章Linear Models for Classification仍由西北大学planktonli老师主讲,介绍了贝叶斯的marginalization概念、Fisher线性判别、感知机、分类器概率生成和判别模型的区别与联系、逻辑回归的最大似然参数估计、贝叶斯逻辑回归的Laplace近似推断等内容。 阅读全文
posted @ 2015-01-28 14:58 Nietzsche on line 阅读(1600) 评论(0) 推荐(1) 编辑
摘要: 理解机器学习莫过于从最基础的线性模型开始,第三章 Linear Models for Regression由西北大学planktonli老师主讲,介绍了线性基函数模型、正则化方法、贝叶斯线性回归及其与核函数的联系等内容,为后面几章打下了良好基础。 阅读全文
posted @ 2015-01-28 14:57 Nietzsche on line 阅读(1180) 评论(0) 推荐(0) 编辑
摘要: 第二章Probability Distributions的贝塔-二项式、狄利克雷-多项式共轭、高斯分布、指数族等很基础也很重要。 阅读全文
posted @ 2015-01-28 14:55 Nietzsche on line 阅读(1440) 评论(0) 推荐(0) 编辑
摘要: 第一章Introduction由西安交通大学常象宇博士主讲,深入浅出的介绍了机器学习的基本概念、学习理论、模型选择、维灾等。 阅读全文
posted @ 2015-01-28 14:52 Nietzsche on line 阅读(1762) 评论(0) 推荐(0) 编辑
摘要: PRML读书会 Pattern Recognition And Machine Learning读书会 阅读全文
posted @ 2015-01-28 14:50 Nietzsche on line 阅读(1493) 评论(0) 推荐(2) 编辑