摘要：
模型种类模型图示补充 线性模型 一般线性模型: , x为向量向量时: 多维基函数构造: 1.乘法模型: 2.加法模型: 二者对比:乘法模型表现力丰富,但易引入维数灾难;加法模型参数个线性增长,但表现力不足: 核模型 一般核模型:高斯核函数: 一维高斯核模型: 二维高斯核模型: 带宽为h, 均值为c的 阅读全文
摘要：
[TOC] 1.机器学习分类 整体框架: 监督学习：对于有标签的数据进行学习，目的是能够正确判断无标签的数据。通俗的讲，老师教授学生知识，并告知学习过程中的对与错，让学生可以从所学知识的经验和技能中对没有学过的问题进行正确回答，这就是监督学习，用于预测数据的回归、分类标签的分类、顺序的排序等问题。 阅读全文
摘要：
注: 本文总结得内容来源比较杂, 主要方便个人对知识的深度理解, 基本上看这本书中遇到的线性代数方面比较模糊的概念都会随时掌握并补充到下文中. [TOC] 1. 基础概念 标量(scalar) 一个标量就是一个单独的数，一般用小写的的变量名称表示。 向量(vector) 一个向量就是一列数，这些数是 阅读全文
摘要：
[Toc] 机器学习中的一个核心问题是设计不仅在训练集上误差小，而且在新样本上泛化能力好的算法。许多机器学习算法都需要采取相应的策略来减少测试误差，这些策略被统称为正则化。而神经网络由于其强大的表示能力经常遭遇过拟合，所以需要使用许多不同形式的正则化策略。 正则化通过对学习算法的修改，旨在减少泛化误 阅读全文