1.线性回归概述-2.误差项分析 3.似然函数求解 4.目标函数推导(唐宇迪)
1.线性回归概述
2.数学部分
公式含意:
=θ0x0+θ1x1+θ2x2+......θnxn
2.误差项分析
误差ε( i )是独立并且具有相同的分布并且服从均值为0方差为θ2的高斯分布
独立:张三和李四一起来贷款,他俩没关系
同分布:他俩都来得是我们假定的这家银行
高斯分布:银行可能会多给,也可能会少给,但是绝大多数情况下这个浮动不会太大(在 [-1,1] 间),极小情况下浮动会比较大,符合正常情况(如下图)
误差求解公式:
3.似然函数求解
注:
1. exp≈2.7
2. 2式为高斯分部公式
似然函数:根据样本去估计参数值
例如:去赌场,不知输赢概率,问从赌场出来的n个人,计算出输赢概率(不管赌场实际输赢服从什么规则),此即为似然函数案例
注:为累乘符号