局部加权回归
摘要：局部加权回归(Locally Weighted Regression, LWR) 局部加权回归使一种非参数方法(Non-parametric)。在每次预测新样本时会重新训练临近的数据得到新参数值。意思是每次预测数据需要依赖训练训练集，所以每次估计的参数值是不确定的。 局部加权回归优点： 局部加权回归
阅读全文
posted @ 2016-09-24 16:17
09 2016 档案
逻辑回归(分类问题)(Logistic Regression、罗杰斯特回归)
摘要：对于一般训练集： 参数系统为： 逻辑回归模型为： (sigmoid函数) 对于逻辑回归用来分类{0, 1}问题，假设满足伯努利模型： 可以将上式写为一般形式为： 为了得到参数θ，求最大似然估计[2]，可以得到: 为了简化问题，采用ln函数，即对数似然，可以得到： 这里为了最大似然估计使参数最大化，有
阅读全文
posted @ 2016-09-23 23:15
梯度下降(HGL)
摘要：线性回归：是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。 对于一般训练集： 参数系统为： 线性模型为： 损失函数最小的目标就是求解全局最小值，loss函数定义为 目标：min Φ(θ)，loss函数最小。估计最优系数(θ0, θ1, θ2, …, θn)。
阅读全文
posted @ 2016-09-21 19:52
机器学习基础(HGL的机器学习笔记1)
摘要：统计学习：统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，统计学习也成为统计机器人学习[1]。 统计学习分类：有监督学习与无监督学习[2]。 统计学习三要素：模型、策略与算法[1]。 统计学习的对象：统计学习的对象是数据。统计学习从数据出发，提取数据的特征，抽取数据的模型，发现数据中的指示，又回到对数据的分析与预测中去[1]。 统计学...
阅读全文
posted @ 2016-09-11 11:45
圆的拟合(带拉格朗日乘子)
摘要：圆弧特征如图1所示。圆弧的特征向量为R: [φR, ρR, r]T，其中φR为圆心极角，φR ~ N(μφR,σφR2)；ρ为圆心极径，ρR ~ N(μρR,σρR2)；为圆半径，r~N(μr,σr2)。圆弧极坐标公式为： ...
阅读全文
posted @ 2016-09-09 09:08
线段拟合(带拉格朗日乘子，HGL)
摘要：线段特征上的扫描点满足 (1)。本文的线段特征定义为：L: [dL, φL, PLs, PLe]T，如图1所示。其中，dL为笛卡尔坐标系中原点(激光传感器所在位置)到线段的距离， φL为线段特征的倾角，PLs为线段特征起点，PLe为线段特征终点。线段特征在笛卡尔坐标系下方程为： (1) 其中，dL
阅读全文
posted @ 2016-09-08 16:38
