逻辑回归面试题
摘要：逻辑回归为什么要对特征进行离散化？ 在工业界，很少直接将连续值做啥逻辑回归模型的特征输入，而是将连续特征离散化为一系列0、1特征交给逻辑回归模型，优势如下： 1、离散特征的增加和减少都很容易，易于模型的快速迭代； 2、稀疏向量内积乘法运算速度快，计算结果方便存储，容易扩展； 3、离散化后的特征对异常
阅读全文
posted @
2021-06-03 10:32
小小喽啰
阅读(824)
推荐(0) 编辑
逻辑回归损失函数推导
摘要：推导过程： 取似然函数为： 对数似然函数为： 最大似然估计就是求使取最大值时的θ，其实这里可以使用梯度上升法求解，求得的θ就是要求的最佳参数。但是，在Andrew Ng的课程中将取为下式，即 因为乘了一个负的系数-1/m，所以取最小值时的θ为要求的最佳参数 梯度下降法求的最小值 https://bl
阅读全文
posted @
2020-08-20 18:33
小小喽啰
阅读(400)
推荐(0) 编辑
逻辑回归推导
摘要：首先线性模型： 而logistic回归则通过函数L将w‘x+b对应一个隐状态p，p =L(w‘x+b),然后根据p 与1-p的大小决定因变量的值。如果L是logistic函数 而每一个观察到的样本(xi, yi)出现的概率是： 由于y的取值是（0,1），当y=1的时候，后面那一项是不是没有了，那就只
阅读全文
posted @
2020-08-20 17:21
小小喽啰
阅读(394)
推荐(0) 编辑
sklearn.linear_model.LogisticRegression逻辑回归参数详解
摘要：其实我们很少使用到sklearn里面的逻辑回归，因为它不能很好地处理样本均衡，我们一般使用statsmodels.api.Logit 逻辑回归参数 class sklearn.linear_model.LogisticRegression(penalty='l2', *, dual=False, t
阅读全文
posted @
2020-08-11 11:14
小小喽啰
阅读(4377)
推荐(0) 编辑
逻辑回归
摘要：逻辑回归 一、什么是逻辑回归 是用于处理因变量为分类变量的回归问题，常见的是二分类或二项分布问题，也可以处理多分类问题，它实际上是属于一种分类方法。主要思想是用最大似然概率方法构造方差，为最大化方差，利用牛顿梯度上升求解方差参数。 优缺点如下： 1 优点：计算代价不高，易于理解和实现。 2 缺点：容
阅读全文
posted @
2020-08-07 11:02
小小喽啰
阅读(1078)
推荐(0) 编辑
