随笔分类 - 机器学习
摘要:《机器学习基础》 课程总结(一) 本文不是一篇tutorial,为课程学习记录,仅记录个人认为重要和需要扩展的地方,基础或容易记忆的内容略过。我发现ubuntu系统下的搜狗输入法老有错别字,望谅解。 定义 根据王珏研究员的定义,"令是给定世界的有限或无线所有观测对象的集合,由于我们的观测能力有
阅读全文
摘要:STN、DCN 、MORAN简单总结 题外话 最近没啥时间写blog了,陆续接了一些活在干,但是对OCR开始感兴趣起来了,看了一篇MORAN和一篇DCN,让我感觉和我之前做的一些工作是很接近的,感觉大家都是在从不同角度去让CNN学习一种对形变更鲁棒的表示,简单总结一下。 STN、DCN和MORAN
阅读全文
摘要:整数规划之割平面法 How and why? 说明 本文并不是一篇教程,只是把学习过程中的不解的地方做记录,解释为什么使用割平面法时添加的约束方程是那个样子的。 割平面法 割平面法的大致思路是通过先求解非整数规划也就是普通线性规划的最优解,对于非整数解通过添加约束条件来使得可行域变小,再重新解加了约
阅读全文
摘要:连续Hopfield网络解TSP问题 上篇讲的是离散型Hopfield网络用于联想记忆,这篇接上篇讲利用连续型Hopfield网络解TSP问题。 模型 连续型Hopfield网络与离散型Hopfield网络结构是一致的,唯一区别就是节点取值连续和在时间上也连续。 连续型的Hopfield网络一般用一
阅读全文
摘要:RBF神经网络初探 径向基函数 径向基函数是一种函数的取值仅仅与输入的中心点有关的函数,具有这种性质的函数就称为径向基函数。 比如,高斯函数是一种径向基函数,其输出值的大小与距离中心点的距离有关,距离中心点越远,函数值越小,距离中心点越近,函数值越大。 RBF神经网络的结构 RBF神经网络一般具有两
阅读全文
摘要:EM算法、GMM Demo Intro 这一节学习内容为概率图模型里的一节,因为下午在跑程序手里也没什么事情干,写个EM的demo记录一下。本文也不是来推导过程的,只是方法和代码记录,推导请看其他博客。 GMM 概率图模型跳不过的一章就是高斯混合模型,高斯混合模型是由多个高斯分布以一定权重组成的模型
阅读全文
摘要:Gibbs Sampling Intro Gibbs Sampling 方法是我最近在看概率图模型相关的论文的时候遇见的,采样方法大致为:迭代抽样,最开始从随机样本中抽样,然后将此样本作为条件项,按条件概率抽样,每次只从一个维度考虑,当所有维度均采样完,开始下一轮迭代。 Random Samplin
阅读全文
摘要:MRF马尔可夫随机场入门 Intro MRF是一种广泛应用于图像分割的模型,当然我看到MRF的时候并不是因为分割,而是在图像生成领域,有的paper利用MRF模型来生成图像,因此入门一下MRF,并以分割模型为例记一下代码。 Model Target 在图像分割中,我们的任务是给定一张图像,输出每个像
阅读全文
摘要:Tangent Distance 简介 切空间距离可以用在KNN方法中度量距离,其解决的是图像经过有限变换之后还能否被分类正确,例如。对一张数字为5的手写数字图片,将其膨胀后得到图像p1,此时KNN还应认为p1与原图接近,即距离较近,而不是距离其他类别较近。而Tangent Distance较好的解
阅读全文
摘要:匈牙利匹配算法 摘要 匈牙利匹配算法可以用来做目标跟踪,根据预测算法预测box与上一帧box的iou关系可以确定是否是上一帧的目标。 也是比较常用的二分图匹配算法。 概念 1. 图G的一个 匹配 是由一组没有公共端点的不是圈的边构成的集合。 2. 完美匹配 :考虑部集为X={x1 ,x2, ...}
阅读全文
摘要:存个代码,以后参考。 numpy次成分分析和PCA降维 SVD分解做次成分分析 原图: 次成分复原图: 代码: PCA对随机10000个数据降维分析 基于霍特林变换。 本程序将10维数据降维成5维,基于霍特林变换。、
阅读全文
摘要:Auto diff 论文: "http://www.jmlr.org/papers/volume18/17 468/17 468.pdf"
阅读全文