Fork me on GitHub
摘要: 一.简介 支持向量机(svm)的想法与前面介绍的感知机模型类似,找一个超平面将正负样本分开,但svm的想法要更深入了一步,它要求正负样本中离超平面最近的点的距离要尽可能的大,所以svm模型建模可以分为两个子问题: (1)分的对:怎么能让超平面将正负样本分的开; (2)分的好:怎么能让距离超平面最近的 阅读全文
posted @ 2020-05-20 22:42 努力的番茄 阅读(1588) 评论(17) 推荐(0) 编辑
摘要: 一.简介 通过前面几节的介绍,大家可以直观的感受到:对于大部分机器学习模型,我们通常会将其转化为一个优化问题,由于模型通常较为复杂,难以直接计算其解析解,我们会采用迭代式的优化手段,用数学语言描述如下: \[ \min_{v^k} f(x^k+v^k) \] 这里目标函数为$f(x)$,当前优化变量 阅读全文
posted @ 2020-05-18 23:24 努力的番茄 阅读(2726) 评论(0) 推荐(0) 编辑
摘要: import numpy as np import os os.chdir('../') import matplotlib.pyplot as plt %matplotlib inline 一.最大熵原理 最大熵的思想很朴素,即将已知事实以外的未知部分看做“等可能”的,而熵是描述“等可能”大小很合 阅读全文
posted @ 2020-05-18 23:07 努力的番茄 阅读(1189) 评论(0) 推荐(0) 编辑
摘要: import numpy as np import os os.chdir('../') import matplotlib.pyplot as plt %matplotlib inline 一.简介 今天将介绍另一种简单的线性二分类模型:感知机(Perceptron),它的要求比较松,只要能找到一 阅读全文
posted @ 2020-05-18 23:00 努力的番茄 阅读(333) 评论(0) 推荐(0) 编辑
摘要: import numpy as np import os os.chdir('../') import matplotlib.pyplot as plt %matplotlib inline 简介 上一讲我们实现了一个简单二元分类器:LogisticRegression,但通常情况下,我们面对的更多 阅读全文
posted @ 2020-05-18 22:57 努力的番茄 阅读(1430) 评论(0) 推荐(0) 编辑
摘要: import numpy as np import os os.chdir('../') from ml_models import utils import matplotlib.pyplot as plt %matplotlib inline 一.简介 逻辑回归(LogisticRegressi 阅读全文
posted @ 2020-05-16 11:00 努力的番茄 阅读(837) 评论(0) 推荐(1) 编辑
摘要: 一.过拟合 建模的目的是让模型学习到数据的一般性规律,但有时候可能会学过头,学到一些噪声数据的特性,虽然模型可以在训练集上取得好的表现,但在测试集上结果往往会变差,这时称模型陷入了过拟合,接下来造一些伪数据进行演示: import os os.chdir('../') from ml_models. 阅读全文
posted @ 2020-05-16 10:52 努力的番茄 阅读(1977) 评论(0) 推荐(0) 编辑
摘要: 一.模型结构 线性回归算是回归任务中比较简单的一种模型,它的模型结构可以表示如下: \[ f(x)=w^Tx^* \] 这里$x^*=[x^T,1]T$,\(x\in R^n\),所以$w\in R{n+1}$,$w$即是模型需要学习的参数,下面造一些伪数据进行演示: import numpy as 阅读全文
posted @ 2020-05-14 21:14 努力的番茄 阅读(961) 评论(0) 推荐(0) 编辑