摘要：
最优间隔分类器问题本次课程大纲：1、最优间隔分类器2、原始优化问题&对偶优化问题（KKT条件）3、SVM对偶问题4、核方法（下一讲）复习：支撑向量机中改动的符号：输出y∈{-1,+1}h输出的假设值也改为{-1,+1}g(z) = { 1 ,如果z>=0; -1,如果z> 0；如果y(i)=-1，为... 阅读全文
摘要：
朴素贝叶斯本次课程大纲：1、朴素贝叶斯-朴素贝叶斯事件模型2、神经网络（简要）3、支撑向量机（SVM）铺垫–最大间隔分类器复习：1、朴素贝叶斯一种生成学习算法，对p(x|y)建模。例：垃圾邮件分类以邮件输入流作为输入，输出y为{0,1}，1为垃圾邮件，0为非垃圾邮件。将邮件文本表示为一个输入向量x1... 阅读全文
摘要：
生成学习算法本次课程大纲：1、生成学习算法2、高斯判别分析（GDA，Gaussian Discriminant Analysis）-高斯分布（简要）-对比生成学习算法&判别学习算法（简要）3、朴素贝叶斯4、Laplace平滑复习：分类算法：给出一个训练集，若使用logistic回归算法，其工作方式是... 阅读全文
摘要：
牛顿方法本次课程大纲：1、牛顿方法：对Logistic模型进行拟合2、指数分布族3、广义线性模型（GLM）：联系Logistic回归和最小二乘模型复习：Logistic回归：分类算法假设给定x以为参数的y=1和y=0的概率：求对数似然性：对其求偏导数，应用梯度上升方法，求得：本次课程介绍的牛顿方法是... 阅读全文
摘要：
欠拟合与过拟合概念本次课程大纲：1、局部加权回归：线性回归的变化版本2、概率解释：另一种可能的对于线性回归的解释3、Logistic回归：基于2的一个分类算法4、感知器算法：对于3的延伸，简要讲复习：–第i个训练样本令，以参数向量为条件，对于输入x，输出为：n为特征数量定义成本函数J，定义为：m为训... 阅读全文