Hiroki

大部分笔记已经转移到 https://github.com/hschen0712/machine_learning_notes ，QQ：357033150，欢迎交流

2015年10月11日

凸优化中的基本概念

摘要： 1.1 什么是凸集?简单来说，凸集是一个点集，这个点集有一个性质，就是在这个集合中任取不同的两个点x和y，他们之间的线段（包括端点）上的点都属于这个点集，那么就说这个点集是一个凸集。比如下图中左边的图形是凸集，而右边不是，因为我们可以找到两个点，使它们之间的线段上的点不在集合中数学上，凸集的... 阅读全文

posted @ 2015-10-11 23:14 Hiroki 阅读(10310) 评论(0) 推荐(0) 编辑

2015年10月10日

Hadoop伪分布式的搭建

摘要：实验平台：Virtual Box 4.3.24CentOS7JDK 1.8.0_60Hadoop 2.6.0Hadoop基本安装配置主要包括以下几个步骤：1）创建Hadoop用户2）安装Java3）设置SSH登陆权限4）单机安装配置5）伪分布式安装配置1.1 创建Hadoop用户linux创建用户的... 阅读全文

posted @ 2015-10-10 20:48 Hiroki 阅读(813) 评论(0) 推荐(0) 编辑

2015年9月20日

老师布置的几道作业

摘要：这题问的问题据我的理解应该是找到使这个式子最大化的c，用Xi表示出来，解法我认为应该用拉格朗日乘数法。令 $L(c,\lambda)=c^T\Sigma c - \lambda (c^Tc-1)$，然后对$L$求c的偏导数并设为0：$$\nabla(L)_c=2\Sigma c - 2\la... 阅读全文

posted @ 2015-09-20 18:20 Hiroki 阅读(253) 评论(0) 推荐(0) 编辑

2015年3月14日

为什么机器能够学习——PAC Learnability

摘要：机器学习中，我们根据训练集训练一个模型，来对测试数据进行预测。通常我们并不关心模型在训练集上的好坏（即训练误差，in sample error），举个简单例子，我们想要根据前六个月股市行情训练一个模型来对未来股市走向进行预测，即使我们的算法在过去的数据上做的再精准都没有任何意义，我们希望模型在未来某... 阅读全文

posted @ 2015-03-14 22:26 Hiroki 阅读(4207) 评论(0) 推荐(1) 编辑

2015年3月8日

Coursera 机器学习基石第4讲学习的可行性

摘要：这一节讲述的是机器学习的核心、根本性问题——学习的可行性。学过机器学习的我们都知道，要衡量一个机器学习算法是否具有学习能力，看的不是这个模型在已有的训练数据集上的表现如何，而是这个模型在训练数据外的数据（一般我们称为测试数据）上性能的好坏，我们把这个性能称为泛化能力（generalization a... 阅读全文

posted @ 2015-03-08 14:55 Hiroki 阅读(719) 评论(1) 推荐(0) 编辑

2014年12月8日

Coursera机器学习基石第2讲：感知器

摘要：第一讲中我们学习了一个机器学习系统的完整框架，包含以下3部分：训练集、假设集、学习算法一个机器学习系统的工作原理是：学习算法根据训练集，从假设集合H中选择一个最好的假设g，使得g与目标函数f尽可能低接近。H称为假设空间，是由一个学习模型的参数决定的假设构成的一个空间。而我们这周就要学习一个特定的... 阅读全文

posted @ 2014-12-08 00:21 Hiroki 阅读(6150) 评论(0) 推荐(0) 编辑

2014年12月7日

matlab中boxplot字体大小设置

摘要：网上找到的：set(findobj(gca,'Type','text'),'FontSize',18)boxplot() uses the default axes labeling for the Y axes, but for the X axes, it uses text() to put ... 阅读全文

posted @ 2014-12-07 16:42 Hiroki 阅读(3815) 评论(1) 推荐(0) 编辑

2014年11月12日

MATLAB 中gcf、gca 以及gco 的区别

摘要： MATLAB 中gcf、gca 以及gco 的区别gcf 返回当前Figure 对象的句柄值gca 返回当前axes 对象的句柄值gco 返回当前鼠标单击的句柄值，该对象可以是除root 对象外的任意图形对象，并且Matlab 会把当前图形对象的句柄值存放在Figure 的CurrentObject... 阅读全文

posted @ 2014-11-12 14:59 Hiroki 阅读(1469) 评论(0) 推荐(0) 编辑

2014年6月10日

陆吾生最优化计算听课笔记1

摘要：第一堂课的内容主要是关于无约束最优化问题的。一开始，讲了如何将解方程问题归结为最优化问题。假设我们要解以下方程组，共有$m$个方程：\begin{align*}&p_1(x)=0\\&p_2(x)=0\\&...\\&p_m(x)=0\end{align*}其中$x$是n维欧式空间$\mathbb... 阅读全文

posted @ 2014-06-10 13:19 Hiroki 阅读(2989) 评论(0) 推荐(0) 编辑

2014年5月25日

Kernel Ridge Regression

摘要：回顾一下岭回归，岭回归的目的是学习得到特征和因变量之间的映射关系，由于特征可能很高维，所以需要正则化岭回归的目标函数是$$ \sum_{i=1}^n \left\|y-X\beta\right\|^2+\lambda\beta^T\beta $$由于数据可能是非线性的，单纯的线性回归效果可能不是很好... 阅读全文

posted @ 2014-05-25 21:59 Hiroki 阅读(2845) 评论(0) 推荐(0) 编辑