摘要:
Topic: Naive Bayes 求最优解 (closed-form) MLE (最大似然) Lagrange Multiplier Method (拉格朗日乘数法) Solve for Naive Bayes 讲解朴素贝叶斯模型的数学原理。 求极值 例题:\(f(x)=x^2-2x-3\) 1 阅读全文
摘要:
Two Main Branches of Learning 学习系统的两个方向: 专家系统:符号主义,基于规则来实现,目前仍然有在使用。适合数据量很少甚至没有的时候。 基于概率统计的系统:连接主义,基于学习的方式来实现,比如机器学习,深度学习。适合拥有大量数据的情况。 虽然目前最火的是基于概率统计的 阅读全文
摘要:
通过leetcode上面的5道基础动态规划题目,讲解求解动态规划问题的思路。 定义 对于动态规划问题,通常需要做3件事情: 问题目标 状态的定义:\(opt[n]\) 状态转移方程:\(opt[n] = best\_of(opt[n-1], opt[n-2], ...)\) 最大子序和 给定一个整数 阅读全文
摘要:
Language Model (语言模型) Noisy Channel Model \[ p(text|source) \propto p(source|text)p(text) \] $\propto$符号表示成正比,公式根据Bayes定理得出,目标是找到使得$p(text|source)$概率最 阅读全文
摘要:
Q&A System Introduction (问答系统介绍) Q:能否根据语料库搭建一个智能客服系统(问答系统)? 基于搜索的问答系统 基于搜索的问答系统的解决思路:根据用户输入问题,从语料库中找到相似度最高的问题,返回相对应的答案作为回答。 简单流程: 基于搜索的问答系统 vs 基于知识图谱的 阅读全文
摘要:
前面我们已经讲解了线性回归和逻辑回归算法,但是当我们将这些算法应用到实际问题中时,有可能会出现过拟合问题(overfitting problem),导致效果很差,我们可以通过正则化来处理过拟合问题。 The Problem of Overfitting 主要介绍了什么是过拟合。 Example 以我 阅读全文