假设函数

线性回归

代价函数

 

梯度下降

 

 

 

 逻辑回归 逻辑回归代价函数

sig函数,为啥要用sig函数映射线性函数,其目的是把函数值映射到0,1之间(二分类值是0和1),且sig函数对0和1有较好模拟性质,想象电压模拟信号转数字信号

映射sig函数实际上就假设函数,h=g(z),z>=0,h>=0.5,近似等价于预测值1... 

如果用平方差作为代价函数会因为 sig不是线性函数导致代价函数是非凸函数从而导致最小化代价函数时很容易得到局部最优解,所以不能这么干

如何换一个代价函数时对付sig这种非凸函数使得代价函数变成凸函数,可以采用log函数去构造

 

 

 

 

 

 

 

 

 

 

 

 

 

posted on 2022-04-08 23:37  DuoRuaiMi4567  阅读(54)  评论(0编辑  收藏  举报