摘要:
博客园这边还是太偏冷清,手机客户端做的也不够好。打算两个都用用。csdn地址:http://blog.csdn.net/liunian920305 阅读全文
摘要:
拉格朗日乘子法的证明 在学习支持向量机的时候,计算对偶问题时用到了拉格朗日乘子法((Lagrange multiplier method)),回想起高中时使用拉格朗日乘子法求不等式约束条件下的最优化问题时的困惑,虽然一直知道用,但是却不知道为什么拉格朗日乘子法能够用。知其然更应知其所以然,本文就来扒 阅读全文
摘要:
周志华老师的《机器学习》是一本非常难得的国内学者的好教材。为了好好学习,博主决定啃一啃周老师书中的课后习题。本人答案仅供参考,若有错误,请大神们不吝指教。(本系列文章实时更新) 1.试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集,必存在与训练集一致(即训练误差为0)的决策树。 答:不 阅读全文
摘要:
现实·理论·证据 ──谈如何做研究和写论文 陆 铭* 今天这个题目,如果由一个研究比我做得更好的人来讲可能更有好处。但是现在来讲这样题目的人太少了,所以我愿意来把一些不是很成熟的想法与大家分享,也非常感谢大家来听我的讲座。我今天讲座的题目是《现实·理论·证据》,这三个词摆放的位置基本上概括了今天晚上所有要讲的东西。如果你们听完之后明白了我为什么这样摆放三个词的位置,我想你们就听明白我所讲的意思了。... 阅读全文
摘要:
矩阵实质上是一种坐标变换
对于单位矩阵坐标基,上的向量x(x1, x2,...xn)
对于基(a1, a2...an), 两个基的互相表示为 (a1, a2...an) = I (a1, a2...an)
将向量x的坐标转移到(a1,a2...an)上,(a1,a2...an) y = I x =... 阅读全文
摘要:
在实际的计量经济学问题中,完全满足回归的基本假设的情况并不多见。不满足基本假定的情况。称为 违背基本假定 违背基本假定的情况主要包括:1. 随机干扰项存在异方差2. 随机干扰项的序列相关(或称自相关)3. 解释变量之间的多重共线4. 解释变量为随机变量,存在内生性 异方差性 线性模型的基本假设中有... 阅读全文
摘要:
普通的线性约束
假设有如下的回归模型y=x0+b1 x1+b2 x2+…bn xn
回归模型中有许多的参数, 假设我们猜测总体的参数中有约束条件如下:b1+b2=1,那么我们可以用样本数据来对这个约束假设进行验证么? 答案当然是可以。其思想为我们将约束条件放在模型中,产生一个新的模型,该模型只有... 阅读全文
摘要:
使得集合Y的元素和集合X的元素相对应起来的规则f。广义的概念:电影票也是一种映射,发工资也是一种映射,男女朋友也是映射。只要有对应关系,我么就可以认为是映射。映射这个概念就是发明用来对自然界和社会上对应关系的一种抽象。非常需要注意的是:一定要记住:映射的概念是非常广泛的一个概念,任何两种有关系的事物... 阅读全文
摘要:
多元线性回归模型 的最小二乘估计结果为 如果存在较强的共线性,即 中各列向量之间存在较强的相关性,会导致的从而引起对角线上的 值很大 并且不一样的样本也会导致参数估计值变化非常大。即参数估计量的方差也增大,对参数的估计会不准确。 因此,是否可以删除掉一些相关性较强的变量呢?如果p个变量之间具有较强的相关性,那么又应当删除哪几个是比较好的呢? 本文介绍两种方法能够判断如何对... 阅读全文
摘要:
回归模型除了对参数进行估计和检验,以弄清楚变量的相关性和因果性之外,另一个目的便是进行预测。 那么,由OLS方法的出来的预测结果是否可靠呢?预测结果的可靠性又会受什么因素的影响呢?除了点估计的预测结果,能否有区间估计的预测结果呢? 本文就这些问题,来进行一一探讨1.引入why? 回归模型除... 阅读全文