随笔分类 - Machine Learning
摘要：到目前为止，我们讨论的学习算法都是以$p(y \mid x;\theta)$为模型 ，即给定x以后y的 条件分布。接下来讨论一个不同类型的学习算法。 举个例子：有一个分类问题，基于动物得而一些特征分辨它是大象(y=1)还是狗(y=0)。对于逻辑回归算法或感知算法会找出一条直线作为判别边界。这里提出一
阅读全文
摘要：广义线性模型 前面我们举了回归和分类得到例子。在回归的例子中，$y \mid x;\theta \sim N(u,\sigma ^{2})$，在分类例子中，$y\mid x;\theta \sim Bbernoulli(\phi)$ 广义线性模型是基于指数函数族的，指数函数族原型为： $p(y;\e
阅读全文
摘要：分类和逻辑回归 接下来讨论分类问题，类似于回归问题，只不过y的值只有少数离散的值。现在我们考虑二分类问题，此时y只有0和1两个值。 逻辑回归 构造假设函数$h_{\theta}(x)$: $h_{\theta}(x)=g(\theta^{(x)})=\frac{1}{1+e^{-\theta^{T}
阅读全文
摘要：监督学习 给出一个算法，需要部分数据集已经有正确答案。比如给定房价数据集。监督学习又叫回归问题 例子：房价预测，癌症预测 无监督学习 样本集未作标记，把一组未标记的数据分成多个聚类 例子：组织计算机集群，社交网络分析 鸡尾酒会问题 从背景噪声中提取有效信息。 [W,s,v]=svd((repmat(
阅读全文
