航空公司客户价值分析

#1.描述性统计分析   数据探索
#对数据进行基本的探索
#返回缺失值个数以及最大、最小值
import pandas as pd
datafile='D:\\大三下\\大数据实验课\\demo\\unit7\\air_data.csv'#航空原始数据，第一行为属性标签
resultfile='D:\\大三下\\大数据实验课\\demo\\unit7\\explore.csv'#数据探索结果表

#读取原始数据，指定UTF-8编码（需要用文本编辑器将数据转换为UTF-8编码）
data=pd.read_csv(datafile,encoding='utf-8')

#包括对数据的基本描述,percentiles参数是指定计算多少的分位数表（如1/4分位表、中位数等）
explore=data.describe(percentiles=[],include='all').T
#describe()函数自动计算非空值数，需要手动计算空值数
explore['null']=len(data)-explore['count']

explore=explore[['null','max','min']]
explore.columns=[u'空值数',u'最大值',u'最小值']#表头重命名、
'''
这里只选取部分探索结果
describr()函数自动计算的字段值count(非空值数)、unique(唯一数值)、top(频数最高者)、
freq(最高频数)、mean(平均数)、std(方差)、min(最小值)、50%(中位数)、max(最大数)
'''
explore.to_csv(resultfile)

#2.分布分析--选取客户基本信息中的入会时间、性别、会员卡级别和年龄字段进行搜索分析，探索客户的基本信息分布情况

#搜索客户的基本信息分布情况
#客户会员入会年份
from datetime import datetime
import matplotlib.pyplot as plt
ffp=data['FFP_DATE'].apply(lambda x:datetime.strptime(x,'%Y/%m/%d'))
ffp_year=ffp.map(lambda x : x.year)
#绘制各年份会员入会人数直方图
fig = plt.figure(figsize=(8, 5)) #设置画布大小
plt.hist(ffp_year, bins='auto', color='#0504aa')
plt.xlabel('年份')
plt.ylabel('入会人数')
plt.title('各年份会员入会人数(3128)')
plt.show()
plt.close()

 

 

 

#提取会员不同性别人数
male = pd.value_counts(data['GENDER'])['男']
female = pd.value_counts(data['GENDER'])['女']
#绘制会员性别比例饼图
fig = plt.figure(figsize=(7, 4)) #设置画布大小
plt.pie([male, female], labels=['男', '女'], colors=['lightskyblue', 'lightcoral'], autopct='%1.1f%%')
plt.title('会员性别比例(3128)')
plt.show()
plt.close()

 

#提取不同级别会员的人数
lv_four = pd.value_counts(data['FFP_TIER'])[4]
lv_five = pd.value_counts(data['FFP_TIER'])[5]
lv_six = pd.value_counts(data['FFP_TIER'])[6]
#绘制会员各级别人数条形图
fig = plt.figure(figsize=(8,5)) #设置画布大小
plt.bar(range(3), [lv_four, lv_five, lv_six], width=0.4, alpha=0.8, color='skyblue')
#left：x轴的位置序列，一般采用arange函数产生一个序列；
#height：y轴的数值序列，也就是柱形图的高度，一般就是我们需要展示的数据；
#alpha：透明度
#width：为柱形图的宽度，一般这是为0.8即可；
#color或facecolor：柱形图填充的颜色；
plt.xticks([index for index in range(3)], ['4', '5', '6'])
plt.xlabel('会员等级')
plt.ylabel('会员人数')
plt.title('会员各级别人数(3128)')
plt.show()
plt.close()

 

 

 #客户乘机信息分布分析

#选取最后一次乘机至结束的时长、客户乘机信息中的飞机次数、总飞行公里数进行搜索分析，探索客户的乘机信息分布情况

#提取会员年龄
age = data['AGE'].dropna()
age = age.astype('int64')
#绘制会员年龄分布箱型图
fig = plt.figure(figsize=(5,10))
plt.boxplot(age, patch_artist=True, labels=['会员年龄'], boxprops={'facecolor': 'lightblue'}) #设置填充颜色
plt.title('会员年龄分布箱型图(3128)')
#显示y坐标轴的底线
plt.grid(axis='y')
plt.show()
plt.close()

 

 

 

lte=data['LAST_TO_END']
fc=data['FLIGHT_COUNT']
sks=data['SEG_KM_SUM']
#绘制最后乘机至结束时长箱型图
fig=plt.figure(figsize=(5,8))

plt.boxplot(lte,
patch_artist=True,
labels=['时长'],
boxprops={'facecolor':'lightblue'})
plt.title('会员最后乘机至结束时长分布箱型图（3128）',fontsize=15)

plt.grid(axis='y')
plt.show()
plt.close

#绘制客户飞行次数箱型图
fig=plt.figure(figsize=(5,8))
plt.boxplot(fc,
patch_artist=True,
labels=['飞行次数'],
boxprops={'facecolor':'lightblue'})

plt.title('会员飞行次数分布箱型图（3128）',fontsize=15)

plt.grid(axis='y')
plt.show()
plt.close

#绘制客户总飞行公里数箱型图
fig=plt.figure(figsize=(5,10))
plt.boxplot(sks,
patch_artist=True,
labels=['总飞行公里数'],
boxprops={'facecolor':'lightblue'})

plt.title('客户总飞行公里数箱型图（3128）',fontsize=15)

plt.grid(axis='y')
plt.show()
plt.close

 

 

 

 

 

#3.相关性分析
#提取属性并合并为新的数据集
import seaborn as sns
data_corr = data.loc[:,['FFP_TIER', 'FLIGHT_COUNT', 'LAST_TO_END', 'SEG_KM_SUM', 'EXCHANGE_COUNT', 'Points_Sum']]

age1 = data['AGE'].fillna(0)
data_corr['AGE'] = age1.astype('int64')
data_corr['ffp_year'] = ffp_year

#计算相关性矩阵
dt_corr = data_corr.corr(method='pearson')
print('相关性矩阵为：\n', dt_corr)

#绘制热力图
plt.subplots(figsize=(10, 10)) #设置画面大小
## data:数据 square:是否是正方形 vmax:最大值 vmin:最小值 robust:排除极端值影响
sns.heatmap(dt_corr, annot=True, vmax=1, square=True, cmap='Reds')
plt.show()
plt.close()

 

 

 

 

 

 #清洗空值和异常值

import numpy as np
import pandas as pd

datafile ='D:\大三下\大数据实验课\data\\air_data.csv'
cleanedfile='D:\大三下\大数据实验课\data\\data_cleaned.csv'

#读取数据
airline_data=pd.read_csv(datafile,encoding='utf-8')
print('原始数据的形状为：',airline_data.shape)

#去除票价为空的记录
airline_notnull=airline_data.loc[airline_data['SUM_YR_1'].notnull()&airline_data['SUM_YR_2'].notnull(),:]
print('删除缺失记录后数据的形状为：',airline_notnull.shape)

#只保留票价非零的，或者平均折扣率不为0且总飞行公里数大于0的记录
index1=airline_notnull['SUM_YR_1']!=0
index2=airline_notnull['SUM_YR_2']!=0
index3=(airline_notnull['SEG_KM_SUM']>0)&(airline_notnull['avg_discount']!=0)
index4=airline_notnull['AGE']>100#去除年龄大于100的记录
airline=airline_notnull[(index1|index2)&index3&~index4]
print('数据清洗后数据的形状为：',airline.shape)
airline.to_csv(cleanedfile)

 

import pandas as pd
import numpy as np

#读取数据清洗后的数据
cleanedfile='D:\\大三下\\大数据实验课\\data\\data_cleaned.csv'
airline=pd.read_csv(cleanedfile,encoding='utf-8')
#选取需求属性
airline_selection=airline[['FFP_DATE','LOAD_TIME','LAST_TO_END','FLIGHT_COUNT','SEG_KM_SUM','avg_discount']]
print('筛选的属性前5行为：\n',airline_selection.head())

 

#树形结构与数据标准化

#构造属性L
L=pd.to_datetime(airline_selection['LOAD_TIME']) - \
pd.to_datetime(airline_selection['FFP_DATE'])
L=L.astype('str').str.split().str[0]
L=L.astype('int')/30

#合并属性
airline_features=pd.concat([L,airline_selection.iloc[:,2:]],axis=1)
print('构建的LRFMC属性前5行为：\n',airline_features.head())

#数据标准化
from sklearn.preprocessing import StandardScaler
data=StandardScaler().fit_transform(airline_features)
np.savez('D:\\大三下\\大数据实验课\\data\\airline_scale.npz',data)
print('标准化后LRFMC 5个属性为：\n',data[:5,:])

 

 

 

#K-Means聚类标准化后的数据
import pandas as pd
import numpy as np
from sklearn.cluster import KMeans
#读取标准化后的数据
airline_scale=np.load('D:\\大三下\\大数据实验课\\data\\airline_scale.npz')['arr_0']
k=5 #确定聚类中心

#构建模型，随机种子设为123
kmeans_model=KMeans(n_clusters=k,random_state=123)
fit_kmeans=kmeans_model.fit(airline_scale) #模型训练

#查看聚类结果
kmeans_cc=kmeans_model.cluster_centers_#聚类中心
print('各类聚类中心为：\n',kmeans_cc)
kmeans_labels=kmeans_model.labels_#样本的类别标签
print('各样本的类别标签为：\n',kmeans_labels)
r1=pd.Series(kmeans_model.labels_).value_counts()#统计不同类别样本的数目
print('最终每个类别的数目为：\n',r1)
#输出聚类分群的结果
cluster_center=pd.DataFrame(kmeans_model.cluster_centers_,\
columns=['ZL','ZR','ZF','ZM','ZC'])#将聚类中心放在数据框中
cluster_center.index=pd.DataFrame(kmeans_model.labels_ ).\
drop_duplicates().iloc[:,0]
print(cluster_center)

 

 

 

 #制作客户分析群雷达图

#matplotlib inline
import matplotlib.pyplot as plt

labels=['ZL','ZR','ZF','ZM','ZC']
legen=['客户群'+str(i+1) for i in cluster_center.index]#客户群命名
lstype=['-','--',(0,(3,5,1,5,1,5)),':','-.']
kinds=list(cluster_center.iloc[:,0])
#由于雷达图要保证数据闭合，因此再添加L列，并转换为np.ndarry
cluster_center=pd.concat([cluster_center,cluster_center[['ZL']]],axis=1)
centers=np.array(cluster_center.iloc[:,0:])

#分割圆周长，并让其闭合
n=len(labels)
angle=np.linspace(0,2*np.pi,n,endpoint=False)
angle=np.concatenate((angle,[angle[0]]))
feature=np.concatenate((feature,[feature[0]]))

#绘图
fig=plt.figure(figsize=(8,6))
ax=fig.add_subplot(111,polar=True)
plt.rcParams['font.sans-serif']=['SimHei']
plt.rcParams['axes.unicode_minus']=False
#画线
for i in range(len(kinds)):
ax.plot(angle,centers[i],linestyle=lstype[i],linewidth=2,label=kinds[i])
#添加属性标签
ax.set_thetagrids(angle* 180/np.pi, labels)
plt.title('客户特征分析雷达图（3135）',fontsize=15)
plt.legend(legen)
plt.show()
plt.close

 

 

 

 第二部分 电信客户流失分析预测

import pandas as pd
data=pd.read_csv('D:\大三下\大数据实验课\data\\WA_Fn-UseC_-Telco-Customer-Churn.csv')# 加载数据
data.shape # 查看数据大小

 

 data.head()

 

  data.dtypes# 查看数据类型

 

  data.info()         # 打印摘要

 

 data.describe()      # 描述性统计信息

 

 

 

 

 

 

User_info=data.groupby(by="Churn")["Churn"].count()
User_info=pd.DataFrame(User_info)
User_info

 

 

plt.rcParams['font.sans-serif']='SimHei'
plt.rcParams['axes.unicode_minus']='False'
#提取会员不同性别人数
male=pd.value_counts(data['gender'])['Female']
female=pd.value_counts(data['gender'])['Male']
#绘制会员性别比例饼图
fig=plt.figure(figsize=(10,6))
plt.pie([male,female],labels=['男','女'],colors=['lightskyblue','lightcoral'],autopct='%1.1f%%')
plt.title('电信用户性别比例(3128)',fontsize=15)
plt.show()
plt.close()

 

 

#TotalCharges表示总费用，这里为对象类型，需要转换为float类型
'''
convert_numeric=True表示强制转换数字（包括字符串），不可转换为NaN---已被弃用
您可以根据需要替换所有非数字值，以NaN使用with函数中的apply列，然后替换为by 并将所有值最后替换为s by ：
df to_numeric 0 fillna int astype
'''
data['TotalCharges']=data['TotalCharges'].apply(pd.to_numeric, errors='coerce').fillna(0).astype(int)
print(data['TotalCharges'].dtypes)
#
print(pd.isnull(data['TotalCharges']).sum()) #再次查找是否存在缺失值

 

#处理缺失值
print(data.dropna(inplace=True)) #删除掉缺失值所在的行
print(data.shape)

 

#数据归一化处理
#对Churn列中的YES和No分别用1和0替换，方便后续处理
data['Churn'].replace(to_replace='Yes',value=1,inplace=True)
data['Churn'].replace(to_replace='No',value=0,inplace=True)
print(data['Churn'].head())

 

 

 

churnvalue=data[ "Churn" ].value_counts()
labels=data["Churn"].value_counts().index

#rcParams["figure.figsize"]=6,6
plt.pie(churnvalue,labels=labels,colors=["blue","yellow"],explode=(0.1,0),autopct='%1.1f', shadow=True)
plt.title( '客户流失情况饼图（3128） ',fontsize=15)
plt.show()

 

 

 

plt.figure(figsize=(10,10))
plt.subplot(2,2,1)
gender=sns.countplot(x='gender',hue='Churn',data=telcon,palette='Set2') #palette参数表示设置颜色，设置为主颜色paste12
plt.xlabel('性别')
plt.title('不同性别客户流失直方图 ',fontsize=15)

plt.subplot(2,2,2)
seniorcitizen=sns.countplot(x='SeniorCitizen',hue='Churn',data=telcon,palette='Set2')
plt.xlabel('老年人')
plt.title('老年人客户流失直方图 ',fontsize=15)

plt.subplot(2,2,3)
partner=sns.countplot(x='Partner',hue='Churn',data=telcon,palette='Set2')
plt.xlabel('配偶')
plt.title('是否有配偶客户流失直方图 ',fontsize=15)

plt.subplot(2,2,4)
dependents=sns.countplot(x='Dependents',hue='Churn',data=telcon,palette='Set2')
plt.xlabel('亲属')
plt.title('亲属客户流失直方图 ',fontsize=15)
plt.show()

 

 charges=telcon.iloc[:,1:20]
 #对特征进行编码
 #离散特征的编码分为两种情况：
 #1.离散特征的取值之间没有太大意义，比如color:[red,blue],那么就使用one-hot编码
 #2.离散特征的取值有大小意义，比如size:[X,XL,XXL]，那么就使用数值的映射【X:1,XL:2,XXL:3】
corrdf=charges.apply(lambda x:pd.factorize(x)[0])
print(corrdf.head())

 

 

charges=telcon.iloc[:,1:20]
corrdf=charges.apply(lambda x:pd.factorize(x)[0])
corr=corrdf.corr()
# '''
# heatmap 使用热力图展示系数矩阵情况
# linewidths 热力图矩阵之间的间隔大小
# annot 设定是否显示每个色块系数值
# '''
plt.figure(figsize=(30,20))
plt.title('相关系数热力图 ',fontsize=15)
ax=sns.heatmap(corr,xticklabels=corr.columns,yticklabels=corr.columns,linewidths=0.2,cmap='YlGnBu',annot=True)
plt.show()

 

churn_dict={'Yes':1,'No':0}
dataset['Churn']=dataset['Churn'].map(churn_dict)
df_onehot = pd.get_dummies(dataset.iloc[:,1:21])
plt.figure(figsize=(15,6))
df_onehot.corr()['Churn'].sort_values(ascending=False).plot(kind='bar')
plt.title('用户流失与各个维度之间的关系（3128）')

fig,axes = plt.subplots(1,2,figsize=(18,6))
sns.countplot(x='SeniorCitizen',hue='Churn',data=data,palette='Pastel1',ax=axes[0])
data.groupby('SeniorCitizen').agg('mean')[['Churn','Not Churn']].plot(kind='bar',stacked=True,color=['#4682B4','#ADD8E6'],ax=axes[1])
plt.show()

 

 

#tenture:用户使用时长,单位(月)
plt.figure(figsize=(9,4))
g=sns.kdeplot(dataset['tenure'][(dataset['Churn']=='No')],color='green',shade=True)
g=sns.kdeplot(dataset['tenure'][(dataset['Churn']=='Yes')],ax=g,color='orange',shade=True)
g.set_xlabel('tenure')
g.set_ylabel('Frequency')
plt.title('月长与流失的关系图')
g.legend(['未流失','流失'])