随笔分类 - 数学
摘要：矩阵及其变换、特征值与特征向量的物理意义最近在做聚类的时候用到了主成分分析PCA技术，里面涉及一些关于矩阵特征值和特征向量的内容，在网上找到一篇对特征向量及其物理意义说明较好的文章，整理下来，分享一下。一、矩阵基础[1]：矩阵是一个表示二维空间的数组，矩阵可以看做是一个变换。在线性代数中，矩阵可以把...
阅读全文
摘要：A geometric interpretation of the covariance matrixContents[hide]1Introduction2Eigendecomposition of a covariance matrix3Covariance matrix as a linear...
阅读全文
摘要：What is an eigenvector of a covariance matrix?One of the most intuitive explanations of eigenvectors of a covariance matrix is that they arethe direct...
阅读全文
摘要：再谈协方差矩阵之主成分分析自从上次谈了协方差矩阵之后，感觉写这种科普性文章还不错，那我就再谈一把协方差矩阵吧。上次那篇文章在理论层次介绍了下协方差矩阵，没准很多人觉得这东西用处不大，其实协方差矩阵在好多学科里都有很重要的作用，比如多维的正态分布，再比如今天我们今天的主角——主成分分析(Princip...
阅读全文
摘要：[转]浅谈协方差矩阵一、统计学的基本概念统计学里最基本的概念就是样本的均值、方差、标准差。首先，我们给定一个含有n个样本的集合，下面给出这些概念的公式描述：均值：标准差：方差：均值描述的是样本集合的中间点，它告诉我们的信息是有限的，而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均。以这两...
阅读全文
摘要：Introduction to Gaussian ProcessesGaussian processes (GP) are a cornerstone of modern machine learning. They are often used fornon-parametricregressio...
阅读全文
摘要：拓扑学——探寻大数据的内在模式点击上方“大数据文摘”可以订阅哦！大数据文摘作品，欢迎个人转发朋友圈；其他机构、自媒体转载，务必后台留言，申请授权。作者：Kevin Knudson编译：数码叮叮校对：于丽君，康欣 编辑：Ivy如果我们不能明白如何分析它，这些数据有什么好？大数据正被媒体、工业和政府所瞩...
阅读全文
摘要：机器学习的数学基础（1）--Dirichlet分布这一系列（机器学习的数学基础）主要包括目前学习过程中回过头复习的基础数学知识的总结。基础知识：conjugate priors共轭先验 共轭先验是指这样一种概率密度：它使得后验概率的密度函数与先验概率的密度函数具有相同的函数形式。它极大地简化了贝叶...
阅读全文
摘要：范数的物理意义（转）在介绍主题之前，先来谈一个非常重要的数学思维方法：几何方法。在大学之前，我们学习过一次函数、二次函数、三角函数、指数函数、对数函数等，方程则是求函数的零点；到了大学，我们学微积分、复变函数、实变函数、泛函等。我们一直都在学习和研究各种函数及其性质，函数是数学一条重要线索，另一条重...
阅读全文
摘要：林达华推荐的几本数学书转自：http://dahua.spaces.live.com/default.aspx1.线性代数(Linear Algebra)：我想国内的大学生都会学过这门课程，但是，未必每一位老师都能贯彻它的精要。这门学科对于Learning是必备的基础，对它的透彻掌握是必不可少的。我...
阅读全文
摘要：矩阵分解（rank decomposition）文章代码汇总矩阵分解（rank decomposition）本文收集了现有矩阵分解的几乎所有算法和应用，原文链接：https://sites.google.com/site/igorcarron2/matrixfactorizationsMatrix ...
阅读全文
摘要：和机器学习和计算机视觉相关的数学和机器学习和计算机视觉相关的数学之一（以下转自一位MIT牛人的空间文章，写得很实际：）作者：Dahua感觉数学似乎总是不够的。这些日子为了解决research中的一些问题，又在图书馆捧起了数学的教科书。从大学到现在，课堂上学的和自学的数学其实不算少了，可是在研究的过程...
阅读全文
摘要：多种相似距离对比因某些原因需要对样本进行相似度方面的计算，对常见的几种距离公式进行了一系列实验。距离公式：距离的衡量在相似度衡量中占据了重要的地位，不同的距离公式有其不同的应用场景，都是为了解决某类问题而诞生的，本文期望对这些距离公式能有个”0距离”的亲密接触。目录1. 欧氏距离2. 切比雪夫距离3...
阅读全文
摘要：机器学习中的相似性度量在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。 本文的目的就是对常用的相似性度量作一个总结。本文目录：...
阅读全文
摘要：Conjugate prior relationshipsThe following diagram summarizes conjugate prior relationships for a number of common sampling distributions.Arrows point...
阅读全文