机器学习 作业6 逻辑回归

1.用自己的话描述一下，什么是逻辑回归，与线性回归对比，有什么不同？

逻辑回归是一种广义的线性回归分析模型，线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。

逻辑回归处理的是分类问题，线性回归处理的是回归问题。

逻辑回归使用对数似然函数进行参数估计，使用交叉熵作为损失函数，对预测错误的惩罚是随着输出的增大，逐渐逼近一个常数。

而线性回归使用的是最小化平方误差损失函数，对偏离真实值越远的数据惩罚越严重。

 

2.自述一下什么是过拟合和欠拟合？

过拟合：样本数据特征过多，使训练集变现太过于接近训练数据，对于数据的预测区分太过完美，达不到泛化的分类效果，从而使其在新的测试集上分类效果较差。

欠拟合：样本不够或算法不精确，测试样本特性没有学到，不具泛化性，拿到新样本后没办法准确判断。

 

3.思考一下逻辑回归的应用场景有哪些？

数据挖掘，疾病自动诊断，经济预测。