缺失值侦测与处理

 

缺失值的侦测的方法：

1、mice包中的md.pattern()函数可以生成一个以矩阵或数据框形式展示缺失值模式的表格

这个矩阵呢，表示像第一行缺失0个的模式有13行，像第二行缺失1个的模式有1行，如此类推

所以呢，一共就有0*13+1*1+1*3+2*1+3*7=27个缺失值，也可以算每列的，age列缺0个，hyp列缺8个，bmi列缺9个，chl列缺10个，共缺0+8+9+10=27个

2、VIM包中可可视化数据集中缺失值模式的函数：aggr()、matrixplot()、scattMiss()

 aggr(nhanes,prop=FALSE,numbers=TRUE) 

此外，当prop参数设置为true时，将用比例代替计数

 matrixplot(nhanes) 

此处，缺失的地方为红色，其他的数值较小，颜色较浅；数值越大，颜色越重。

另，不适合非数值数据，会把非数值数据判断成缺失

 marginplot(nhanes[c("hyp","chl")],pch=c(20),col=c("darkgray","red","blue")) 

 

缺失值的处理一般有以下几种方法：

1、将含缺失值的记录删除

2、根据变量之间的相关关系填补缺失值

3、根据记录之间的相似性填补缺失值

4、使用能够处理缺失值的工具

 

将含缺失值的记录删除

一般适用于以下情况：

此条记录中含有较多变量的缺失值

 

得到数据中至少含有一个变量的缺失值的记录 的计数

nrow(data[!complete.cases(data),]

剔除含有缺失值的记录

data=data[complete.cases(data),]
或者
data=na.omit(data)

 得到每行数据的缺失值个数

apply(data,1,function(x) sum(is.na(x)))

　

用最高频率值填补缺失值

填补缺失值最简便和快捷的方法是使用一些代表中心趋势的值，因为他们反映了变量分布的最常见值。例如平均值、中位数、众数等。

对于接近正态的分布来讲，平均值数就是最佳选择；

对于偏态分布或者有离群值的分布而言，中位数是更好的代表数据中心趋势的指标。

填补data的noNum列的缺失值：

data[is.na(data$noNum,"noNum"]=median(data$noNum,na.rm=T)　　

对于名义变量，常使用众数填补。

通过变量的相关关系来填补缺失值

缺失值为数值变量时常使用相关性计算线性回归，

缺失值为名义变量时常通过绘图观察规律进行填充。

产生变量之间的相关值

cor(data[,4:18],use="complete.obs")　　

 改善结果输出形式：

symnum(cor(data[,4:18],use="complete.obs"))

 

找出相关性比较高的变量，通过线性回归对缺失值进行计算填充

填充名义变量时常用的绘图函数（lattice包）：

histogram(~mxPH|season,data=algae)
histogram(~mxPH|size*speed,data=algae)
stripplot(size~mxPH|speed,data=algae,jitter=T)　　

 

根据记录之间的相似性填补缺失值

度量两个记录之间的相似性：欧氏距离，找出与任何含有缺失值的案例最相似的10条记录

两种方法：

1、计算这10条记录的中位数，并用中位数来填补缺失值。若为名义变量，采用众数

2、采用这些最相似数据的加权均值。权重的大小随着距待填补缺失值的个案的距离增大而减小。可采用高斯核函数从距离获得权重。若相邻个案距待填补缺失值的个案的距离为d，则它的值在加权平均中的权重为 w(d)=exp(-d)

注：在计算距离时，一般要对数值变量进行标准化。即 yi=(xi-xbar)/sigma(x)