Lichenrui

摘要： 一. Hoeffding不等式 对固定的假设h，数据量N足够大，Ein(h)在误差ε内大概接近于Eout(h)： P[|Ein(h) - Eout(h)| > ε] ≤ 2exp(-2ε2N) 所以，Ein(h) = Eout(h) is probably approximately correct 阅读全文

摘要： 一. 输出空间 1. 二元分类：Y = {-1,+1} 2. 多类分类：Y = {1,2,...,K} 3. 回归： Y = R or Y = [lower,upper] 4. 结构学习：Y = structures 二. 数据标签 1. 监督学习：有标签 2. 非监督学习：无标签 3. 半监督学习 阅读全文

摘要： 一. 假设集 h(x) = sign(∑wixi - threshold) = sign(wTx) 二. 学习算法 1. Cyclic PLA For t = 0,1,... 1) find a naive/random mistake of wt called (xn(t),yn(t)) sign 阅读全文

摘要： 一. 什么是机器学习 从数据出发，经过computer的计算学习，最终得到某一种表现的增进. 二. 机器学习3个关键 1. 存在一些潜藏的模式可以学习 2. 不容易定义和编程 3. 有蕴含这些模式的数据 三. 机器学习的组件 1. 输入：x∈X 2. 输出：y∈Y 3. 目标函数：f: X→Y 4. 阅读全文