loongnotdragon

摘要： 栈结构一定要结合具体应用场景去理解。。。 主要参考邓俊辉老师的数据结构课程，基于c++的实现。 一 基本概念 栈（stack）是受限的序列：只能在栈顶（top）插入和删除，栈底为盲端。 特点：先进后出（FILO）,后进先出（LIFO） 基本接口：size() / empty() push() 入栈 阅读全文

摘要： 1.集成学习（ensemble learning）的概述 集成学习通过构建并结合多个学习器来完成学习任务。 图1 集成学习示意图 从图1可知，集成学习的策略就是：先产生一组“个体学习器”，再用某种策略将它们结合起来。个体学习器通常由一个现有的学习算法从训练数据产生，例如决策树、神经网络等。关键点：个 阅读全文

摘要： 逻辑回归的本质是最大似然估计 逻辑回归的输出是 分别表示取1和取0的后验概率。将上面两式联系起来得到 取似然函数 再取对数 最大似然估计就是求使似然函数最大的参数θ。此时可以使用梯度上升法优化代价函数 取负号和求平均后得到J函数 此时就是求使J函数最小的参数θ。接下来用梯度下降法优化。 阅读全文

摘要： 逻辑回归 本文主要是给神经网络基础做铺垫，因此只对相关内容进行涉及。主要参考周志华老师的西瓜书以及Andrew NG的深度学习课程。 机器学习领域中监督学习又分回归与分类，但逻辑回归名为回归实为分类算法。主要思想是根据现有数据对分类边界线建立回归公式，以此进行分类。 （1）逻辑回归的三大步 （2）构 阅读全文