Real-Ying

摘要： 11 SMO优化算法（Sequential minimal optimization） SMO算法由Microsoft Research的John C. Platt在1998年提出，并成为最快的二次规划优化算法，特别针对线性SVM和数据稀疏时性能更优。关于SMO最好的资料就是他本人写的《Sequen 阅读全文

摘要： 7 核函数（Kernels） 最初在“线性回归”中提出的问题，特征是房子的面积x，结果y是房子的价格。假设从样本点的分布中看到x和y符合3次曲线，那么我们希望使用x的三次多项式来逼近这些样本点。那么首先需要将特征x扩展到三维，然后寻找特征和结果之间的模型。将这种特征变换称作特征映射（feature 阅读全文

摘要： 1 目录 支持向量机基本上是最好的有监督学习算法了，从logistic回归出发，引出了SVM，揭示模型间的联系，过渡自然。 2 重新审视logistic回归 Logistic回归目的是从特征学习出一个0/1分类模型，而这个模型是将特征的线性组合作为自变量，由于自变量的取值范围是负无穷到正无穷。因此， 阅读全文

摘要： 11.1 首先要做什么 11.2 误差分析 11.3 类偏斜的误差度量 11.4 查全率和查准率之间的权衡 11.5 机器学习的数据 11.1 首先要做什么 在接下来的视频将谈到机器学习系统的设计。这些视频将谈及在设计复杂的机器学习系统时，将遇到的主要问题。同时会试着给出一些关于如何巧妙构建一个复杂 阅读全文

摘要： 10.1 决定下一步做什么 10.2 评估一个假设 10.3 模型选择和交叉验证集 10.4 诊断偏差和方差 10.5 归一化和偏差/方差 10.6 学习曲线 10.7 决定下一步做什么 10.1 决定下一步做什么 到目前为止，我们已经介绍了许多不同的学习算法，如果你一直跟着这些视频的进度学习，你会 阅读全文

摘要： 9.1 代价函数 9.2 反向传播算法 9.3 反向传播算法的直观理解 9.4 实现注意：展开参数 9.5 梯度检验 9.6 随机初始化 9.7 综合起来 9.8 自主驾驶 9.1 代价函数 首先引入一些便于稍后讨论的新标记方法： 假设神经网络的训练样本有 m 个，每个包含一组输入 x 和一组输出信 阅读全文

摘要： 8.1 非线性假设 8.2 神经元和大脑 8.3 模型表示 1 8.4 模型表示 2 8.5 特征和直观理解 1 8.6 样本和直观理解 II 8.7 多类分类 8.1 非线性假设 无论是线性回归还是逻辑回归都有这样一个缺点，即当特征太多时，计 算的负荷会非常大。 下面是一个例子： 之前已经看到过， 阅读全文

摘要： UNIX/Linux 本身是没有图形界面的，我们通常在 UNIX/Linux 发行版上看到的图形界面实际都只是运行在 Linux 系统之上的一套软件。通常我们在使用 Linux 时，并不是直接与系统打交道，而是通过一个叫做 Shell 的中间程序来完成的，并且为了能在一个窗口中完成用户输入和显示输出 阅读全文

摘要： 7.1 过拟合的问题 7.2 代价函数 7.3 正则化线性回归 7.4 正则化的逻辑回归模型 7.1 过拟合的问题 如果我们有非常多的特征，我们通过学习得到的假设预测可能能够非常好地适应训练集（代价函数可能几乎为 0），但是可能会不能推广到新的数据。 下图是一个回归问题的例子： 第一个模型是一个线性 阅读全文

摘要： 6.1 分类问题 6.2 假说表示 6.3 判定边界 6.4 代价函数 6.5 简化的成本函数和梯度下降 6.6 高级优化 6.7 多类分类：一个对所有 6.1 分类问题 在分类问题中，我们尝试预测的结果是否属于某一个类（例如正确或错误）。分类问题的例子有：判断一封电子邮件是否是垃圾邮件；判断一次金 阅读全文