逻辑回归 R语言 建模步骤小记
商业分析中 逻辑回归常用于预测目标变量Y的 是与否的模型(0-1)之间的概率模型
1,构建所需的数据集,根据实验的窗口,构建逻辑回归数据结构,例如 用过去12个月数据 做购买率的模型训练,这部分包含训练数据集与测试数据集,
比例可以是7:3的比例,还有模型外验证数据集,这部分数据可以为12个月后 后3个月数据来对预测模型的泛化做评估,即13-15月3月的数据做模型验证。效果较好的模型 用来上线生产。其中根据实际的购买率乘以一定的比例系数,放大购买率通过过采样的模式构造基本数据集。
2.变量的转化与预处理。
其中去掉缺失值较多的变量,购买率分布较集中的变量,即购买概率的变化不随自变量变化而变化的变量,即数值集中程度较高的变量。与Y不相关的变量。
对缺失值进行填补,例如 对有序分类变量 用均值来填补。对连续性变量 用中位数来填补 等。
3.变量的删选(特征工程)(caret包)
将高维即数量太庞大的自变量群,降维致较少的变量组合,(例如降至80以下 或者20左右),这部分步骤主要来降维的同时,期望消去变量之间的共线性,相关性等因素
4.模型的构建(glm 包/step() )
根据实际商业的目的,挑选第三步后剩下的变量,并调参,找到是整个系统平滑稳定的变量组合,例如10个变量,其中每个变量权重期望分布均匀,且满足模型其他各项基本指标,如C值 AUC等。
5.模型的评估 与描述
将构建完成的模型,将所有客户的购买率给出,并从高到低排序,总人群均分为10类 。输出模型结果 其中理想效果是 :购买率高的客户群为总体平均购买率人群的两倍既两倍以上,即高的购买率是总体平均购买率的两倍。
5分钟随笔,之后有时间补实操code....