数据挖掘实战：信用卡违约率分析
【项目目标】
这个数据集是台湾某银行 2005 年 4 月到 9 月的信用卡数据，数据集一共包括 25 个字段，现在我们的目标是要采用随机森林算法，针对这个数据集构建一个分析信用卡违约率的分类器。
【项目过程】
1.数据获取
2.数据探索、数据规范化、数据集划分
3.模型创建、模型训练、模型评估
【项目实现】
每个字段的含义如下：
1.导库
import pandas as pd
from sklearn.model_selection import GridSearchCV
from sklearn.preprocessing import StandardScaler
from sklearn.ensemble import RandomForestClassifier
from matplotlib import pyplot as plt
2.导入数据、探索数据
data = pd.read_csv("./UCI_Credit_Card.csv") data.shape
(30000, 25)
data.head()
data.info()
<class 'pandas.core.frame.DataFrame'> RangeIndex: 30000 entries, 0 to 29999 Data columns (total 25 columns): # Column Non-Null Count Dtype --- ------ -------------- ----- 0 ID 30000 non-null int64 1 LIMIT_BAL 30000 non-null float64 2 SEX 30000 non-null int64 3 EDUCATION 30000 non-null int64 4 MARRIAGE 30000 non-null int64 5 AGE 30000 non-null int64 6 PAY_0 30000 non-null int64 7 PAY_2 30000 non-null int64 8 PAY_3 30000 non-null int64 9 PAY_4 30000 non-null int64 10 PAY_5 30000 non-null int64 11 PAY_6 30000 non-null int64 12 BILL_AMT1 30000 non-null float64 13 BILL_AMT2 30000 non-null float64 14 BILL_AMT3 30000 non-null float64 15 BILL_AMT4 30000 non-null float64 16 BILL_AMT5 30000 non-null float64 17 BILL_AMT6 30000 non-null float64 18 PAY_AMT1 30000 non-null float64 19 PAY_AMT2 30000 non-null float64 20 PAY_AMT3 30000 non-null float64 21 PAY_AMT4 30000 non-null float64 22 PAY_AMT5 30000 non-null float64 23 PAY_AMT6 30000 non-null float64 24 default.payment.next.month 30000 non-null int64 dtypes: float64(13), int64(12) memory usage: 5.7 MB
通过data.info()发现数据很完整，没有缺失值，不需要进行缺失值的处理
分析数据特征的类型可以发现，数据分为分类型变量和数值型变量，其中 SEX/EDUCATION/MARRIAGE 为分类型变量，其中 SEX 为无序数据，应该采用 OneHotEncoder 编码
看一下标签的分类情况
data["default.payment.next.month"].value_counts()
0 23364 1 6636 Name: default.payment.next.month, dtype: int64
df = pd.DataFrame({'default.payment.next.month': next_month.index,'values': next_month.values})
plt.rcParams['font.sans-serif']=['SimHei'] # 用来正常显示中文标签
plt.figure()
plt.bar(["0","1"],df["values"],)
plt.title('信用卡违约率客户\n (违约：1，守约：0)')
可以看到，不存在严重的样本不均衡问题
接下来对 SEX 进行独热编码
from sklearn.preprocessing import OneHotEncoder ohe = OneHotEncoder(sparse=False) ohe.fit(data["SEX"].values.reshape(-1, 1)) SEX_df = pd.DataFrame(ohe.transform(data["SEX"].values.reshape(-1, 1)), columns=ohe.get_feature_names()) SEX_df.tail()
删除无用字段 SEX ID
data.drop(["SEX","ID"], inplace=True, axis=1)
# 分类型变量 data_cv = pd.concat([data.iloc[:,[1,2]],SEX_df],axis=1) data_cv
# 数值型变量 data_mv = pd.concat([data["LIMIT_BAL"],data.iloc[:,3:22]],axis=1) data_mv
# 数值型变量归一化 ss = StandardScaler() data_mv_std = ss.fit_transform(data_mv) data_mv_std_df = pd.DataFrame(data_mv_std) data_mv_std_df
# 划分特征与标签 features = pd.concat([data_mv_std_df,data_cv],axis=1) target = data.iloc[:,-1]
使用GridSearchCV对随机森林分类器进行超参数选择
rfc = RandomForestClassifier(n_jobs=-1,max_features= 'sqrt' ,n_estimators=50, oob_score = True) param_grid = { 'n_estimators': [50,200], 'max_features': ['auto', 'sqrt', 'log2'] } CV_rfc = GridSearchCV(estimator=rfc, param_grid=param_grid, cv= 5) CV_rfc.fit(features, target) CV_rfc.best_params_
{'max_features': 'log2', 'n_estimators': 200}
CV_rfc.best_score_
0.8164
