摘要：
1.点估计 令 {x (1) ,...,x (m) } 是 m 个独立同分布（i.i.d.）的数据点。点估计（point esti-mator）或统计量（statistics）是这些数据的任意函数： 良好的估计量的输出会接近生成训练数据的真实参数 θ 点估计也可以指输入和目标变量之间关系的估计。我们 阅读全文
摘要：
1.超参数 可以设置来控制算法行为 2.验证集 用于挑选超参数的数据子集被称为验证集（validation set） 3. k-折交叉验证算法 阅读全文
摘要：
1.泛化 在先前未观测到的输入上表现良好的能力被称为泛化（generalization） 2.训练误差（training error） 在训练集上计算的误差 3.泛化误差（generalization error）（也被称为测试误差（test error）） 在测试集上计算的误差 线性回归示例 4. 阅读全文
摘要：
1.任务 T 机器学习系统应该如何处理样本（example） 样本是指我们从某些希望机器学习系统处理的对象或事件中收集到的已经量化的特征（feature）的集合 通常会将样本表示成一个向量 x ∈ R n 分类 计算机程序需要指定某些输入属于 k 类中的哪一类 f : R n → {1,...,k} 阅读全文
摘要：
1.目标函数（objective function）或准则（criterion） 要最小化或最大化的函数 最小化时，我们也把它称为代价函数（cost function）、损失函数（loss function）或误差函数（error function） 一个上标 ∗ 表示最小化或最大化函数的 x 值。 阅读全文