摘要：
微积分中最常见的问题之一是求一个函数的极大极小值（极值）。但是很多时候找到极值函数的显式表达是很困难的，特别是当函数有先决条件或约束时。拉格朗日乘数则提供了一个非常便利方法来解决这类问题，而避开显式地引入约束和求解外部变量。 凸集（convex set）是一個點集合，其中每兩點之間的直线點都落在該點 阅读全文
摘要：
是一种分类与回归方法, 根据损失函数最小化原则建立决策模型, 预测时, 对新数据, 利用决策树模型进行分类. 学习时包括三个步骤: 特征选择 决策树生成 决策修剪 主要有ID3, C4.5, CART算法 决策树可以表示为一系列if then规则的集合, 这些规则集合是互斥并完备的. 也可以表示给定 阅读全文
摘要：
朴素贝叶斯(naive Bayes)法是根据贝叶斯定理与特征条件独立假设的分类方法. 对于给定的训练数据集, 首先基于特征条件独立假设学习输入/输出的联合概率分布 , 然后基于此模型, 对给定的输入$x$, 利用贝叶斯定理求出后验概率最大的输出$y$. 基本方法: 设输入空间$\mathcal{X} 阅读全文
摘要：
k近邻法(k nearest neighbor, k NN)可用于分类与回归. 在分类问题中, 假设给定一个训练数据集, 其中的实例类别已定. 分类时, 对新的实例, 根据其k个最按住的训练实例的类别, 通过多数表决等方式进行预测. 不具备显式的学习过程. k值的选择, 距离的度量以及分类决策规则是 阅读全文
摘要：
感知机对应于输入空间中实例划分为正负两类的分离超平面, 属于判别模型. 其目标是求出将训练数据进行线性划分的分离超平面. 是神经网络与去过向量机的基础 定义: 假设输入空间(特征空间)是$\mathcal{X} \subseteq \mathbf{R}^n$, 输出空间是$\mathcal{Y} = 阅读全文
摘要：
统计学习即是基于数据构建概率统计模型并运用模型对数据进行预测与分析的一种方法, 是机器学习的一个分支. 监督学习 : 从给定的有限训练数据集合出发, 假设数据是独立同分布产生的, 并且假设要学习的模型属于某个 函数的集合 , 称为假设空间, 应用某个评价准则, 从 假设空间中选取一个最优的模型 , 阅读全文
摘要：
矩阵 ($A$): 矩形的数组... \begin{align} A_{m \times n} = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\\\ a_{21} & a_{22} & \cdots & a_{2n} \\\\ \vdots 阅读全文
摘要：
图的表示 图的搜索 : 指系统化地跟随图中的边来访问图中的每个结点. 可以用来发现力瓣结构, 许多的图算法在一开始都会先通过搜索来获得图的结构, 其它的一些图算法则是对基本的搜索算法加以优化. 图的表示 : 对于一个图$G= (V, E)$, 其中$\left|V\right|$表示图的结点数, $ 阅读全文