R语言-虚拟变量

R语言中生成虚拟变量/哑变量

前言

虚拟变量又称虚设变量、名义变量或哑变量，用以反映质的属性的一个人工变量,是量化了的质变量，通常取值为0或1。引入哑变量可使线形回归模型变得更复杂，但对问题描述更简明，一个方程能达到俩个方程的作用，而且接近现实。

1. 模型中引入虚拟变量的作用

例如，反映文程度的虚拟变量可取为：1:本科学历；0：非本科学历

一般地，在虚拟变量的设置中：基础类型、肯定类型取值为1；比较类型，否定类型取值为0。

模型中引入虚拟变量的作用
- 1、分离异常因素的影响，例如分析我国GDP的时间序列，必须考虑“文革”因素对国民经济的破坏性影响，剔除不可比的“文革”因素。
- 2、检验不同属性类型对因变量的作用，例如工资模型中的文化程度、季节对销售额的影响。
- 3、提高模型的精度，相当与将不同属性的样本合并，扩大了样本容量（增加了误差自由度，从而降低了误差方差）

2. 虚拟变量设置的原则

在模型中引入多个虚拟变量时，虚拟变量的个数应按下列原则确定：
- 如果回归模型有截距项。有m种互斥的属性类型，在模型中引入（m-1）个虚拟变量。
- 如果回归模型无截距项，有m个特征，设置m个虚拟变量

在R语言中对包括分类变量(factor)的数据建模时，一般会将其自动处理为虚拟变量或哑变量(dummy variable)。

3. Example1

在R语言中对包括分类变量(factor)的数据建模时，一般会将其自动处理为虚拟变量或哑变量(dummy variable)。但有一些特殊的函数，如neuralnet包中的neuralnet函数就不会预处理。如果直接将原始数据扔进去，会出现”requires numeric/complex matrix/vector arguments”需要数值/复数矩阵/矢量参数错误。

这个时候，除了将这些变量删除，我们只能手动将factor variable转换为取值(0,1)的虚拟变量。所用的函数一般有model.matrix(),nnet package中的class.ind()。
下面以UCI的german credit data为例说明。

首先，从UCI网站上下载到german.data数据集，并用str函数对其有个简单的认识。

	download.file("http://archive.ics.uci.edu/ml/machine-learning-databases/statlog/german/german.data", 
	    "./german.data")
	data <- read.table("./german.data")
	str(data)

该数据有21个变量，其中V21为目标变量，V1-V20中包括integer和factor两种类型。下面将用V1分类变量（包含4个level）和V2,V5,V8三个数值型变量作为解释变量建模。

	## 'data.frame':    1000 obs. of  21 variables:
	##  $ V1 : Factor w/ 4 levels "A11","A12","A13",..: 1 2 4 1 1 4 4 2 4 2 ...
	##  $ V2 : int  6 48 12 42 24 36 24 36 12 30 ...
	##  $ V3 : Factor w/ 5 levels "A30","A31","A32",..: 5 3 5 3 4 3 3 3 3 5 ...
	##  $ V4 : Factor w/ 10 levels "A40","A41","A410",..: 5 5 8 4 1 8 4 2 5 1 ...
	##  $ V5 : int  1169 5951 2096 7882 4870 9055 2835 6948 3059 5234 ...
	##  $ V6 : Factor w/ 5 levels "A61","A62","A63",..: 5 1 1 1 1 5 3 1 4 1 ...
	##  $ V7 : Factor w/ 5 levels "A71","A72","A73",..: 5 3 4 4 3 3 5 3 4 1 ...
	##  $ V8 : int  4 2 2 2 3 2 3 2 2 4 ...
	##  $ V9 : Factor w/ 4 levels "A91","A92","A93",..: 3 2 3 3 3 3 3 3 1 4 ...
	##  $ V10: Factor w/ 3 levels "A101","A102",..: 1 1 1 3 1 1 1 1 1 1 ...
	##  $ V11: int  4 2 3 4 4 4 4 2 4 2 ...
	##  $ V12: Factor w/ 4 levels "A121","A122",..: 1 1 1 2 4 4 2 3 1 3 ...
	##  $ V13: int  67 22 49 45 53 35 53 35 61 28 ...
	##  $ V14: Factor w/ 3 levels "A141","A142",..: 3 3 3 3 3 3 3 3 3 3 ...
	##  $ V15: Factor w/ 3 levels "A151","A152",..: 2 2 2 3 3 3 2 1 2 2 ...
	##  $ V16: int  2 1 1 1 2 1 1 1 1 2 ...
	##  $ V17: Factor w/ 4 levels "A171","A172",..: 3 3 2 3 3 2 3 4 2 4 ...
	##  $ V18: int  1 1 2 2 2 2 1 1 1 1 ...
	##  $ V19: Factor w/ 2 levels "A191","A192": 2 1 1 1 1 2 1 2 1 1 ...
	##  $ V20: Factor w/ 2 levels "A201","A202": 1 1 1 1 1 1 1 1 1 1 ...
	##  $ V21: int  1 2 1 1 2 1 1 1 1 2 ...

首先加载neuralnet包尝试一下，只用数值型变量建模，没有报错。

	# install.packages("neuralnet")
	library("neuralnet")
	NNModelAllNum <- neuralnet(V21 ~ V2 + V5 + V8, data)
	NNModelAllNum
	
	## Call: neuralnet(formula = V21 ~ V2 + V5 + V8, data = data)
	## 
	## 1 repetition was calculated.
	## 
	##         Error Reached Threshold Steps
	## 1 104.9993578    0.005128715177    55

当我们把V1放入解释变量中出现了如下错误：

	NNModel <- neuralnet(V21 ~ V1 + V2 + V5 + V8, data)
	
	## Error: 需要数值/复数矩阵/矢量参数

此时可以用model.matrix函数将V1转化为三个虚拟变量，V1A12,V1A13,V1A14。

	dummyV1 <- model.matrix(~V1, data)
	head(cbind(dummyV1, data$V1))
	
	##   (Intercept) V1A12 V1A13 V1A14  
	## 1           1     0     0     0 1
	## 2           1     1     0     0 2
	## 3           1     0     0     1 4
	## 4           1     0     0     0 1
	## 5           1     0     0     0 1
	## 6           1     0     0     1 4

因为model.matrix函数对数值型和分类Level=2的类别型变量没有影响，所以可以将四个变量一起用该函数生成新的数据集modelData，就可以用该数据集建模了。

	modelData <- model.matrix(~V1 + V2 + V5 + V8 + V21, data)
	head(modelData)
	
	##   (Intercept) V1A12 V1A13 V1A14 V2   V5 V8 V21
	## 1           1     0     0     0  6 1169  4   1
	## 2           1     1     0     0 48 5951  2   2
	## 3           1     0     0     1 12 2096  2   1
	## 4           1     0     0     0 42 7882  2   1
	## 5           1     0     0     0 24 4870  3   2
	## 6           1     0     0     1 36 9055  2   1
	
	NNModel <- neuralnet(V21 ~ V1A12 + V1A13 + V1A14 + V2 + V5 + V8, modelData)

另外一种方法来自nnet package的class.ind函数。

	library("nnet")
	dummyV12 <- class.ind(data$V1)
	head(dummyV12)

可以看到，该结果和model.matrix稍有区别，生成了四个虚拟变量。要注意，为了避免多重共线性，对于level=n的分类变量只需选取其任意n-1个虚拟变量。

	##      A11 A12 A13 A14
	## [1,]   1   0   0   0
	## [2,]   0   1   0   0
	## [3,]   0   0   0   1
	## [4,]   1   0   0   0
	## [5,]   1   0   0   0
	## [6,]   0   0   0   1

4. Example2

	> library("nnet")
	> # head(iris)
	> # dim(iris)
	> # table(iris$Species)
	> dummyiris<- class.ind(iris$Species)
	> dummyiris[sample(nrow(dummyiris),5),]
	     setosa versicolor virginica
	[1,]      1          0         0
	[2,]      0          1         0
	[3,]      0          1         0
	[4,]      1          0         0
	[5,]      0          0         1
	> iris_dummy <- cbind(dummyiris, iris)
	> # head(iris_dummy)
	> dim(iris_dummy)
	[1] 150   8
	> iris_dummy[sample(nrow(iris_dummy),5),c(1:3,8)]
	    setosa versicolor virginica    Species
	135      0          0         1  virginica
	41       1          0         0     setosa
	100      0          1         0 versicolor
	142      0          0         1  virginica
	61       0          1         0 versicolor

5. Example3

	# 今天从豆瓣上学到一招：
	# create dummy variables from categorical variables. 
	> dummy_variable = model.matrix(~factor(categorical_variable)-1) 
	> dum = as.data.frame(dummy_variable) 
	> names(dum) = paste("dummy", 1:length(dum[1,]), sep="")
	 
	# 这里categorical_variable可以是一个矩阵或者数据框或者向量 
	# model.matrix是对表型协变量的水平进行design，比如：
	> design <- model.matrix(~ -1+factor(c(1,1,1, 2,2,2)))
	# 含义就是你有2组每组重复3次共6次试验，前3次是1组的，后3次是2组的
	
	# 结果为：
		1 0
		1 0
		1 0
		0 1
		0 1
		0 1

参考资料

posted @ 2016-06-24 11:36 银河统计阅读(15930) 评论(0) 编辑收藏举报

银河统计

哈尔滨商业大学银河统计工作室