摘要： 一、正则化介绍 问题：为什么要正则化？ NFL（没有免费的午餐）定理： 没有一种ML算法总是比别的好 好算法和坏算法的期望值相同，甚至最优算法跟随机猜测一样 前提：所有问题等概率出现且同等重要 实际并非如此，具体情况具体分析，把当前问题解决好就行了 不要指望找到放之四海而皆准的万能算法！ 方差和偏差 阅读全文

摘要： 某任务需要在A、B、C、D、E这五个人中物色人员去完成，但派人受限于下列条件： （1）若A去，则B跟去 （2）D,E两人中必有人去 （3）B,C两人中必有人去，但只去一人 （4）C,D两人要么都去，要么都不去 （5）若E去，则A,B都去 分析： 对于这个逻辑判断例子，得到了条件的逻辑表达式，我们还有 阅读全文

摘要： 浮点数可以进行比较，但是浮点数由于表示精度在不同浮点数类型中的差异，所以会被误用。例如： 当你满怀信心读完程序后，想象出的运行结果却与真实的运行结果不同的时候，你会如何想？ 首先，由于十进制单精度浮点数的有效位数为7，两个前7位相等而后面不同的数有可能在计算机中表示为同一个浮点数，因而判断两数不等而 阅读全文

摘要： 边界填充（padding）：卷积过程中，越靠近图片中间位置的像素点越容易被卷积计算多次，越靠近边缘的像素点被卷积计算的次数越少，填充就是为了使原来边缘像素点的位置变得相对靠近中部，而我们又不想让填充的数据影响到我们的计算结果，故填充值选择均用0来填充。 池化层不需要参数、只是对特征图进行压缩操作，以 阅读全文

摘要： 一个float变量的空间实体，被一个整型指针指向，当该指针间访时，float变量的空间实体便现出整型实体的面相，于是34.5这个浮点数按二进制补码来理解，得出的结果变得怪异了： 指针的类型性表明不同类型的指针，其类型是不同的，不能相互赋值，例如： 但从地址的本质来说，无非是用二进制表示的整数而已。因 阅读全文

摘要： 【矩阵消元】 The result of multiplying a matrix by some vector is a combination of the columns of the matrix（矩阵乘以向量的结果是一个“矩阵列的线性组合”） 阅读全文

摘要： 基本概念理解： 一个epoch：当前所有数据都跑（迭代）了一遍； 那么两个epoch，就是把所有数据跑了两遍，三个epoch就是把所有数据跑了三遍，以此类推。 batch_size：每次迭代多少个数据；（batch_size称作批处理， 它的作用可以理解为每次训练100个数据（在这里假设将其设置为1 阅读全文

摘要： 读入一个文件aaa.txt的数据到向量中，文件中是一些整数（个数未知）。要判断向量中的元素有多少个两两相等的数对。 代码如下： 阅读全文

摘要： K-近邻与交叉验证 1 选取超参数的正确方法是：将原始训练集分为训练集和验证集，我们在验证集上尝试不同的超参数，最后保留表现最好的那个。 2 如果训练数据量不够，使用交叉验证法，它能帮助我们在选取最优超参数的时候减少噪音。 3 一旦找到最优的超参数，就让算法以该参数在测试集跑且只跑一次，并根据测试结 阅读全文

摘要： 蔡佳 绪论 学科概述 最优化是从所有可能的方案中选择最合理的一种方案，以达到最佳目标的科学。 达到最佳目标的方案是最优方案，寻找最优方案的方法 最优化方法（算法）。 这种方法的数学理论即为最优化理论。 是运筹学的方法论之一，是其重要组成部分。 基本概念： 在一些例子中，如选址问题等，有的目标函数和约 阅读全文