11 2016 档案
摘要：在函数内部，可以调用其他函数。如果一个函数在内部调用自身本身，这个函数就是递归函数。 举个例子，我们来计算阶乘n! = 1 x 2 x 3 x ... x n，用函数fact(n)表示，可以看出： ? 1 fact(n) = n! = 1 x 2 x 3 x ... x (n-1) x n = (n
阅读全文
摘要：operator.itemgetter函数operator模块提供的itemgetter函数用于获取对象的哪些维的数据，参数为一些序号（即需要获取的数据在对象中的序号），下面看例子。 a = [1,2,3] >>> b=operator.itemgetter(1) //定义函数b，获取对象的第1个域
阅读全文
摘要：>>> import numpy>>> help(numpy.argsort)Help on function argsort in module numpy.core.fromnumeric:argsort(a, axis=-1, kind='quicksort', order=None)Retu
阅读全文
摘要：list是列表,可以通过索引查找数值，但是不能对整个列表进行数值运算In [96]: b=[1,2]In [97]: b[1]Out[97]: 2In [98]: type(b)Out[98]: listIn [99]: b+bOut[99]: [1, 2, 1, 2]array是数组，也可以通过索
阅读全文
摘要：operator模块中包含了Python的各种内置操作符,诸如逻辑、比较、计算等,这里我们针对一些常用的操作符来作一个Python中operator模块的操作符使用示例总结: operator模块是python中内置的操作符函数接口，它定义了一些算术和比较内置操作的函数。operator模块是用c实
阅读全文
摘要：本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充） 正则化方法：防止过拟合，提高泛化能力 在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其
阅读全文
摘要：线性插值法 线性插值法(linear interpolation) 什么是线性插值法 线性插值法是指使用连接两个已知量的直线来确定在这两个已知量之间的一个未知量的值的方法。 如何进行线性插值 假设我们已知坐标(x0,y0)与(x1,y1),要得到[x0,x1]区间内某一位置x在直线上的值。根据图中所
阅读全文
摘要：argument of the maximum/minimum arg max f(x): 当f(x)取最大值时，x的取值 arg min f(x)：当f(x)取最小值时，x的取值 表示使目标函数取最小值时的变量值From Wikipedia In mathematics, arg max (or
阅读全文
摘要：看完CSDN上结构之法，算法之道的支持向量机通俗导论（理解SVM的三层境界） http://blog.csdn.net/v_july_v/article/details/7624837 参考了台湾的林智仁教授写了一个封装SVM算法的libsvm库，下载地址： http://www.csie.ntu.
阅读全文
摘要：文章在word里写好了，公式没法贴到论坛里，所以直接截图了
阅读全文
摘要：支持向量机通俗导论（理解SVM的三层境界） 作者：July 。致谢：pluskid、白石、JerryLead。说明：本文最初写于2012年6月，而后不断反反复复修改&优化，修改次数达上百次，最后修改于2016年11月。 前言 动笔写这个支持向量机(support vector machine)是费了
阅读全文
摘要：二次规划 二次规划为非线性规划的一种，若某非线性规划的目标函数为自变量x 的二次函数，约束条件又全是线性的，就称这种规划为二次规划。 Matlab 中二次规划的数学模型可表述如下： 这里H 是实对称矩阵，f ,b 是列向量，A 是相应维数的矩阵。 这里H 是实对称矩阵，f ,b 是列向量，A 是相应
阅读全文
摘要：作者：Noriko Oshima链接：https://www.zhihu.com/question/41252833/answer/108777563来源：知乎著作权归作者所有，转载请联系作者获得授权。 熵的本质是香农信息量()的期望。现有关于样本集的2个概率分布p和q，其中p为真实分布，q非真实分
阅读全文
摘要：在看机器学习的论文时，经常会看到有作者提到“curse of dimensionality”，中文译为“维数灾难”，这到底是一个什么样的“灾难”？本文将通过一个例子来介绍这令人讨厌的“curse of dimensionality”以及它在分类问题中的重要性。 假设现在有一组照片，每一张照片里有一只
阅读全文
摘要：一般来说，方阵能描述任意线性变换。线性变换保留了直线和平行线，但原点没有移动。线性变换保留直线的同时，其他的几何性质如长度、角度、面积和体积可能被变换改变了。从非技术意义上说，线性变换可能“拉伸”坐标系，但不会“弯曲”或“卷折”坐标系。 矩阵是怎样变换向量的 向量在几何上能被解释成一系列与轴平行的位
阅读全文
摘要：在机器学习中，无论是分类还是回归，都可能存在由于特征过多而导致的过拟合问题。当然解决的办法有 （1）减少特征，留取最重要的特征。 （2）惩罚不重要的特征的权重。 但是通常情况下，我们不知道应该惩罚哪些特征的权重取值。通过正则化方法可以防止过拟合，提高泛化能力。 先来看看L2正则化方法。对于之前梯度下
阅读全文
摘要：看Matlab的help文档讲得不是清楚。 先给上一段代码： >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); >> a=[1 2 3;4 5 6;7 8 9;10 11 12]; >> b=reshape(a,2,6); 这段代码的结果
阅读全文
摘要：matlab 等值线函数 contour 例子： x=1:1:6;y=1:1:14;[xx,yy]=meshgrid(y,x);z=[2.44 2.78 3.46 4.55 3.43 2.72 2.46 2.46 2.72 3.43 4.55 3.46 2.78 2.44;3.00 4.42 5.9
阅读全文
摘要：主要参考了一些博客以及自己使用经验。收集来觉得比较有用的。 LIBSVM 数据格式需要 决策属性 条件属性a 条件属性b ... 2 1:7 2:5 ... 1 1:4 2:2 ... 数据格式转换 当数据较少时，可以用formatdatalibsvm轻松地将文本数据转换成为svm工具使用的数据。
阅读全文
摘要：Parameters: [5x1 double] %结构体变量，依次保存的是 -s -t -d -g -r等参数 nr_class: 4 %分类的个数 totalSV: 39 %总的支持向量个数 rho: [6x1 double] %b=-model.rho Label: [4x1 double]
阅读全文
摘要：根据本文后面部分博友提出的在配置过程中出现的问题，其中需要特别强调的一点：整个过程，都是在 libsvm-3.12\matlab目录下操作的。如果这一点你忽视了，你不可能解决配置中报的Bug，即使重新安装matlab也不行。 本文的配置路径为 D:\MATLAB\R2010a\toolbox\lib
阅读全文
摘要：最近试着用 VS2010 + Qt 开发程序，发现 VS2010 里面没有提供单独的调试器 cdb，这样用 Qt Creator 时就无法设置断点调试，很不方便。想起 Windows SDK for Windows 7 中是有cdb。因此就将 Windows SDK for Windows 7 下载
阅读全文
摘要：解决最优化问题 ： 稍微对它做一下改动，如下： 这是一个约束优化问题，更进一步说是一个二次规划问题，复习一下约束优化问题： 定义1：约束非线性问题是， 其中和都是定义在上的实值连续函数，且至少有一个是非线性的(反之为线性约束优化问题)，m是一个正整数，叫做目标函数，叫做约束函数，如果目标函数是二次函
阅读全文
摘要：当你a=1000的时候a指向一个新的类，内容为1000，而b仍然指向原来指向的内容，因为你没有叫它指向其他内容。你使用=符号，使得a和b指向同一个内容，而copy则是将b的内容复制后让c指向这个拷贝的内容上了。看下面图种运行的结果。b=a，使用a改变"age"，b和a中的都改变了。而c采用copy，
阅读全文
摘要：基本运算 x**2 : x^2 若x是mat矩阵，那就表示x内每个元素求平方 inf：表示正无穷 逻辑运算符：and，or，not 字典的get方法 1 1 get相当于一条if…else…语句。若k在字典a中，则返回a[k]；若k不在a中，则返回参数d。 1 2 3 1 2 3 type函数：返回
阅读全文
摘要：我们以最简单的一元线性模型来解释最小二乘法。什么是一元线性模型呢？ 监督学习中，如果预测的变量是离散的，我们称其为分类（如决策树，支持向量机等），如果预测的变量是连续的，我们称其为回归。回归分析中，如果只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。
阅读全文
摘要：在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，只有当是凸函数的情况下，才能
阅读全文
摘要：argument of the maximum/minimum arg max f(x): 当f(x)取最大值时，x的取值 arg min f(x)：当f(x)取最小值时，x的取值 表示使目标函数取最小值时的变量值From Wikipedia In mathematics, arg max (or
阅读全文
摘要：1.错误为：插入乱码 报错： Python模块MySQLdb操作mysql出现2019错误:Can't initialize character set utf-8 解决： 写入数据语句为： cnn = MySQLdb.connect(host = mysql_infor_list[0] , use
阅读全文
