01 2018 档案
摘要：下图为四种不同算法应用在不同大小数据量时的表现，可以看出，随着数据量的增大，算法的表现趋于接近。即不管多么糟糕的算法，数据量非常大的时候，算法表现也可以很好。 数据量很大时，学习算法表现比较好的原理： 使用比较大的训练集（意味着不可能过拟合），此时方差会比较低；此时，如果在逻辑回归或者线性回归模型中
阅读全文
摘要：一般来说，召回率和查准率的关系如下：1、如果需要很高的置信度的话，查准率会很高，相应的召回率很低；2、如果需要避免假阴性的话，召回率会很高，查准率会很低。下图右边显示的是召回率和查准率在一个学习算法中的关系。值得注意的是，没有一个学习算法是能同时保证高查准率和召回率的，要高查准率还是高召回率，取决于
阅读全文
摘要：上篇文章提到了误差分析以及设定误差度量值的重要性。那就是设定某个实数来评估学习算法并衡量它的表现。有了算法的评估和误差度量值，有一件重要的事情要注意，就是使用一个合适的误差度量值，有时会对学习算法造成非常微妙的影响。这类问题就是偏斜类（skewed classes）的问题。什么意思呢。以癌症分类为例
阅读全文
摘要：误差分析可以更系统地做出决定。如果你准备研究机器学习的东西或者构造机器学习应用程序，最好的实践方法不是建立一个非常复杂的系统、拥有多么复杂的变量，而是构建一个简单的算法。这样你可以很快地实现它。研究机器学习的问题时，会花一天的时间试图很快的把结果搞出来。即便效果不好，运行得不完美，通过交叉验证来检验
阅读全文
摘要：当我们在进行机器学习时着重要考虑什么问题。以垃圾邮件分类为例子。假如你想建立一个垃圾邮件分类器，看这些垃圾邮件与非垃圾邮件的例子。左边这封邮件想向你推销东西。注意这封垃圾邮件有意的拼错一些单词，就像Med1cine中有一个1，m0rtgage里有个0。右边的邮件显然不是一个垃圾邮件。 假设我们已经有
阅读全文
摘要：针对高偏差、高方差问题的解决方法： 1、解决高方差问题的方案：增大训练样本量、缩小特征量、增大lambda值 2、解决高偏差问题的方案：增大特征量、增加多项式特征（比如x1*x2,x1的平方等等）、减少lambda值 隐藏层数的选择对于拟合效果的影响： 隐藏层数过少，神经网络简单，参数少，容易出现欠
阅读全文
摘要：绘制学习曲线非常有用，比如你想检查你的学习算法，运行是否正常。或者你希望改进算法的表现或效果。那么学习曲线就是一种很好的工具。学习曲线可以判断某一个学习算法，是偏差、方差问题，或是二者皆有。 为了绘制一条学习曲线，通常先绘制出训练集数据的平均误差平方和（Jtrain），或者交叉验证集数据的平均误差平
阅读全文
摘要：算法正则化可以有效地防止过拟合, 但正则化跟算法的偏差和方差又有什么关系呢？下面主要讨论一下方差和偏差两者之间是如何相互影响的、以及和算法的正则化之间的相互关系 假如我们要对高阶的多项式进行拟合，为了防止过拟合现象，我们要使用图下所示的正则化。因此我们试图通过下面的正则化项，来让参数的值尽可能小。正
阅读全文
摘要：当我们运行一个学习算法时，如果这个算法的表现不理想，那么有两种原因导致：要么偏差比较大、要么方差比较大。换句话说，要么是欠拟合、要么是过拟合。那么这两种情况，哪个和偏差有关、哪个和方差有关，或者是不是和两个都有关，搞清楚这点很重要。能判断出现的情况是这两种中的哪一种，是一个很有效的指示器，指引着可以
阅读全文
摘要：摘要：如果不设置任何过滤标准的话，SOAPsnp会call出更多的SNVs；AtlasSNP2算法比较严格，因此call出来的SNVs数量是最少的，GATK 和 SAMtools call出来的数量位于SOAPsnp 和 Atlas-SNP2之间；四种calling算法的整体一致性是很低的，尤其在n
阅读全文
