摘要：
目录 Max Entropy Markov Model MEMM，即最大熵马尔科夫模型，属于判别式模型。 最大熵模型 + 隐马尔可夫模型 HMMM没办法加入新的特征，MEMM是判别式模型，这就允许它可以加入更多的Features。 观测独立假设对应的就是朴素贝叶斯的条件独立性假设，即t+1时刻的y状 阅读全文
摘要：
目录1. 熵的定义2. 最大熵模型算法3. 逻辑回归 与 最大熵 之间的关系 参考：https://www.cnblogs.com/pinard/p/6972299.html 最大熵模型(maximum entropy model， MaxEnt)也是很典型的分类算法了，它和逻辑回归类似，都是属于对 阅读全文
摘要：
目录 待补充 参考资料 刘建平博客 pinard 阅读全文
摘要：
目录1. 暴力求解法2. 前向算法求HMM观测序列的概率3. 从后往前推 后向算法 1. 暴力求解法 任意一条路径都有可能得到需要的观测结果： 如果我们的隐藏状态数N非常多的那就麻烦了，此时我们预测状态有NT种组合，算法的时间复杂度是O(TNT)阶的 2. 前向算法求HMM观测序列的概率 在前向算法 阅读全文
摘要：
目录1. Hidden Markov Model2. HMM模型定义 注：参考链接 https://www.cnblogs.com/pinard/p/6945257.html 1. Hidden Markov Model 隐马尔科夫模型（Hidden Markov Model，以下简称HMM）是比较 阅读全文
摘要：
目录1. 贝叶斯公式2. 朴素贝叶斯算法3. 其他的贝叶斯模型 1. 贝叶斯公式 P(A|B) 后验概率在B事件发生的基础上A发生的概率， 举例： 血液检测呈阳性患XX病的概率， 已知拍西瓜清脆的声音，西瓜成熟的概率是不是会大一点， 相亲功能否成功是有一定的概率，但是如果知道对方是一个高富帅（或者白 阅读全文
摘要：
目录1. 复习条件概率2. 正式进入3. 生成式 与判别式 这个阶段的内容，采用概率论的思想，从样本里面学到知识（训练模型），并对新来的样本进行预测。 主要算法：贝叶斯分类算法、隐含马尔可夫模型、最大熵模型、条件随机场。 通过本阶段学习，掌握NLP自然语言处理的一些基本算法，本阶段的理解对于后续完成 阅读全文
摘要：
目录 阅读全文
摘要：
目录1. 复习2. GBDT3. gbdt应用于二分类：3. gbdt应用于多类4. 叶子节点输出值c的计算5. GBDT的其他应用6. GBDT+LR 代码实现 1. 复习 再开始学习GBDT算法之前 先复习一下之前的 线性回归 逻辑回归（二分类） 多分类 线性回归 找到一组W 使得 L 最小 进 阅读全文
摘要：
目录1. adaboost算法的基本思想2. 具体实现 1. adaboost算法的基本思想 集成学习是将多个弱模型集成在一起 变成一个强模型 提高模型的准确率，一般有如下两种： bagging: 不同的base model可以并行计算，输出预测结果少数服从多数，回归问题则对多个模型输出的结果求平均 阅读全文