摘要：
隔了好久木有更新了，因为发现自己numpy的很多操作都忘记了，加上最近有点忙.。。 接着上次 我们得到的迭代函数为 首先j != yi j = yi 还没试一下，近期试一下这个的结果 阅读全文
摘要：
接着上周的更，上周我们更到，在对图像的线性分类中，我们只用multi-class 的svm，然后我们得到以下的损失函数 这里每个数值代表为下： X 是一个 N by D 的矩阵，N 代表 training data 的数量，D 代表每个 training data 的维度 W 是一个 D by C 阅读全文
摘要：
因为看cs231的时候用了一下multi-class的svm，所以又把svm给复习了一下，教材是周志华的西瓜书，这里是大概的笔记。 1.线性可分 对于一个数据集： 如果存在一个超平面X能够将D中的正负样本精确地划分到S的两侧，超平面如下： 那么数据集D就是线性可分的，否则，不可分。 w称为法向量，决 阅读全文
摘要：
1. 先说仿射函数和线性函数 线性函数平常非常常见： 这里我们是将一个4维的向量最后投射到一个1维的值。不过这里注意，这个函数是经过原点的。 再看下仿射方程。 这里我们可以看下他们的区别 直观的区别就是会不会经过原点。 知乎上有大佬是这么解释“ 仿射函数即由由1阶多项式构成的函数，一般形式为 f ( 阅读全文
摘要：
有时候我们在拿到原始数据的时候，我们不能直接使用。大概场景有下面这些，我遇到的 1. 数字比较大，容易爆计算量，更不容易收敛 2. 比如房子价格这种变量，并不是正态分布，有时候不利于我们做一些和正态分布有关系的线性模型分析， 那这个时候，我们可能需要对数据做一些预处理的工作。 数据的标准化（norm 阅读全文
摘要：
Shapefile文件是美国ESRI公司发布的文件格式，因其ArcGIS软件的推广而得到了普遍的使用，是现在GIS领域使用最为广泛的矢量数据格式。官方称Shapefile是一种用于存储地理要素的几何位置和属性信息的非拓扑简单格式。 一般地，Shapefile文件是多个文件的集合，至少包括一个shp， 阅读全文
摘要：
1. 基本概念 1.1 ROC与AUC ROC曲线和AUC常被用来评价一个二值分类器（binary classifier）的优劣，ROC曲线称为受试者工作特征曲线 （receiver operating characteristic curve，简称ROC曲线），又称为感受性曲线（sensitivi 阅读全文
摘要：
一、问题介绍 概率分布模型中，有时只含有可观测变量，如单硬币投掷模型，对于每个测试样例，硬币最终是正面还是反面是可以观测的。而有时还含有不可观测变量，如三硬币投掷模型。问题这样描述，首先投掷硬币A，如果是正面，则投掷硬币B，如果是反面，则投掷硬币C，最终只记录硬币B,C投掷的结果是正面还是反面，因此 阅读全文
摘要：
最近上了公司的新员工基础培训课，又对NLP重新产生的兴趣。NLP的第一步大家知道的就是不停的写正则，那个以前学的还可以就不看了。接着就是我们在把NLP的词料在传入神经网络之前的一个预处理，最经典的就是2013年google提出的那个word2vec算法，所以最近想再把这个算法给好好学习一下，然后实现 阅读全文
摘要：
本编博客继续分享简单的机器学习的R语言实现。 今天是关于简单的线性回归方程问题的优化问题 常用方法，我们会考虑随机梯度递降，好处是，我们不需要遍历数据集中的所有元素，这样可以大幅度的减少运算量。 具体的算法参考下面： 首先我们先定义我们需要的参数的Notation 上述算法中，为了避免过拟合，我们采 阅读全文