摘要: 文章在word里写好了,公式没法贴到论坛里,所以直接截图了 阅读全文
posted @ 2016-11-16 17:47 holy_black_cat 阅读(324) 评论(0) 推荐(0) 编辑
摘要: 支持向量机通俗导论(理解SVM的三层境界) 作者:July 。致谢:pluskid、白石、JerryLead。说明:本文最初写于2012年6月,而后不断反反复复修改&优化,修改次数达上百次,最后修改于2016年11月。 前言 动笔写这个支持向量机(support vector machine)是费了 阅读全文
posted @ 2016-11-16 17:45 holy_black_cat 阅读(436) 评论(0) 推荐(0) 编辑
摘要: 二次规划 二次规划为非线性规划的一种,若某非线性规划的目标函数为自变量x 的二次函数,约束条件又全是线性的,就称这种规划为二次规划。 Matlab 中二次规划的数学模型可表述如下: 这里H 是实对称矩阵,f ,b 是列向量,A 是相应维数的矩阵。 这里H 是实对称矩阵,f ,b 是列向量,A 是相应 阅读全文
posted @ 2016-11-16 15:30 holy_black_cat 阅读(982) 评论(0) 推荐(0) 编辑
摘要: 作者:Noriko Oshima链接:https://www.zhihu.com/question/41252833/answer/108777563来源:知乎著作权归作者所有,转载请联系作者获得授权。 熵的本质是香农信息量()的期望。现有关于样本集的2个概率分布p和q,其中p为真实分布,q非真实分 阅读全文
posted @ 2016-11-16 10:38 holy_black_cat 阅读(3517) 评论(0) 推荐(0) 编辑
摘要: 在看机器学习的论文时,经常会看到有作者提到“curse of dimensionality”,中文译为“维数灾难”,这到底是一个什么样的“灾难”?本文将通过一个例子来介绍这令人讨厌的“curse of dimensionality”以及它在分类问题中的重要性。 假设现在有一组照片,每一张照片里有一只 阅读全文
posted @ 2016-11-16 10:23 holy_black_cat 阅读(511) 评论(0) 推荐(0) 编辑
摘要: 一般来说,方阵能描述任意线性变换。线性变换保留了直线和平行线,但原点没有移动。线性变换保留直线的同时,其他的几何性质如长度、角度、面积和体积可能被变换改变了。从非技术意义上说,线性变换可能“拉伸”坐标系,但不会“弯曲”或“卷折”坐标系。 矩阵是怎样变换向量的 向量在几何上能被解释成一系列与轴平行的位 阅读全文
posted @ 2016-11-16 10:21 holy_black_cat 阅读(1114) 评论(0) 推荐(1) 编辑
摘要: 在机器学习中,无论是分类还是回归,都可能存在由于特征过多而导致的过拟合问题。当然解决的办法有 (1)减少特征,留取最重要的特征。 (2)惩罚不重要的特征的权重。 但是通常情况下,我们不知道应该惩罚哪些特征的权重取值。通过正则化方法可以防止过拟合,提高泛化能力。 先来看看L2正则化方法。对于之前梯度下 阅读全文
posted @ 2016-11-15 14:28 holy_black_cat 阅读(229) 评论(0) 推荐(0) 编辑
摘要: 看Matlab的help文档讲得不是清楚。 先给上一段代码: >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); 这段代码的结果 阅读全文
posted @ 2016-11-09 15:23 holy_black_cat 阅读(391) 评论(0) 推荐(0) 编辑
摘要: matlab 等值线函数 contour 例子: x=1:1:6;y=1:1:14;[xx,yy]=meshgrid(y,x);z=[2.44 2.78 3.46 4.55 3.43 2.72 2.46 2.46 2.72 3.43 4.55 3.46 2.78 2.44;3.00 4.42 5.9 阅读全文
posted @ 2016-11-08 18:40 holy_black_cat 阅读(5779) 评论(0) 推荐(0) 编辑
摘要: 主要参考了一些博客以及自己使用经验。收集来觉得比较有用的。 LIBSVM 数据格式需要 决策属性 条件属性a 条件属性b ... 2 1:7 2:5 ... 1 1:4 2:2 ... 数据格式转换 当数据较少时,可以用formatdatalibsvm轻松地将文本数据转换成为svm工具使用的数据。 阅读全文
posted @ 2016-11-08 14:47 holy_black_cat 阅读(1926) 评论(0) 推荐(0) 编辑