《R语言实战》读书笔记--第四章 基本数据管理

本章内容:

操纵日期和缺失值

熟悉数据类型的转换

变量的创建和重编码

数据集的排序,合并与取子集

选入和丢弃变量

多说一句,数据预处理的时间是最长的……确实是这样的,额。

4.1一个示例

4.2创建新变量

算术运算符:+、-、*、/、^(**)(求幂)、x %% y(取余运算)、x %/% y(整数除法)。

transform函数:

transform函数现在只用于数据框。对数据框进行操作。

例子:

mydata <- transform(mydata,
        sumx = x1+x2,
        meanx =(x1+x2)/2)
#这里的x1和x2是mydata的两列

对数据框的操作请多用transform函数。

4.3变量的重编码

所谓重编码,就是根据一个变量与其他变量的现有值创建新值的过程。比如:

将一个连续型变量修改为一组类别值

将误编码的值替换为正确值

要进行重编码,可能用到逻辑运算符,逻辑运算符会返回TRUE或者FALSE。

image

其中,两个逻辑运算符想说一说:

1、书上说浮点型数据慎用 == ,果然是继承了c语言的特点……,不知为何这么说。

2、关于&和&&,&是比较向量中对应关系的所有数,而&&只是比较向量中的第一个数。ps.这里可能涉及到S3、S4面向对象的知识。

下面的函数:

within函数跟with类似,不过可以修改数据框,可是视为transform的替代函数。

比如:

within(data.frame,
        {expr})

关于重编码函数,cut()可以将一个数值变量按照值域划分为区间,并返回一个因子。

cut(x, breaks, labels = NULL,
    include.lowest = FALSE, right = TRUE, dig.lab = 3,
    ordered_result = FALSE, ...)
#上面的x是要分割的向量,breaks是一个数或者向量,如若是数的话,
#表明分为具有相应个数水平的因子,如果是向量,那就是规定切分
#的点。dig.lab是几位有效数字,最后一项是是否为有序因子

还提到,car包中的recode函数可以方便的编码数值型、字符型和因子,doBY包中的recodevar()函数是很受欢迎的,试用了recodevar,很方便。

4.4变量的重命名

想要对变量名重命名,可以使用fix()函数,交互式的修改;可以使用reshape包中的rename函数(plyr包中有rename函数……),我一直使用的是 colnames……太麻烦了。

rename(x,c(oldname = "newname",...))

rename函数可以将向量和数据框直接修改名字。当然可以用names来命名,names(x)[1] <- ‘newname’。

4.5缺失值

R中缺失值用NA(Not Available)表示,不可能出现的结果用NaN(Not a Number)表示。is.na()可以判断是否是缺失值。is.na可以作用在向量、数据框上。可以用summary函数来查看一个数据框的情况。

注意:NA是不能比较的,即使是自己跟NA比较也不行,所以判断某个数是NA,a == NA 是不对的,曾经用过 which(data.frame == NA)不出结果,原来是这个原因。所以用 is.na函数才可以。

4.5.1重编码某些值为缺失值

就是说将异常值标为NA

4.5.2在分析中排除缺失值

在进行计算时,很多函数有参数 na.rm = TRUE,就把NA排除在外。当使用函数处理不完整数据时,最好用?函数名 来查看一下是不是有针对缺失值的参数。函数 na.omit()可以将不完整的观测值进行移除,是完全移除一条观测数据!在15章会有更详细的讨论。

4.6日期值

日期值通常以字符串的形式输入到R中,然后转化为以数值形式存储的日期变量。函数as.Date()执行这样的转换,并且可以规定读入数据的格式!!跟我想的不一样啊。

比如,dates <- as.Date(“8/11/2015”,”%m/%d%Y”)将日期按照%m/%d/%Y的格式读取数据并储存。一旦完成这样的转换,就可以对其进行分析、绘图等工作了。

Sys.Date()可以返回当天的日期,而date()可以返回当前日期和时间。

format函数可以接收一个参数,并且按照一定的格式输出。

format(x, trim = FALSE, digits = NULL, nsmall = 0L,
       justify = c("left", "right", "centre", "none"),
       width = NULL, na.encode = TRUE, scientific = NA,
       big.mark = "",   big.interval = 3L,
       small.mark = "", small.interval = 5L,
       decimal.mark = ".", zero.print = NULL,
       drop0trailing = FALSE, ...)

上面的各种参数都是在设置输出的格式,用的时候再研究。书上的例子是,format(Sys.Date(),format = “%B %d %Y”).

R语言储存日期是以1970.1.1以来多少天的形式。所以可以做减法,as.Date(“date1”)-as.Date(“date2”).

difftime函数:

difftime(time1, time2, tz,#tz跟时间域有关系
         units = c("auto", "secs", "mins", "hours",
                   "days", "weeks"))

4.6.1日期转换为字符

用as.character即可。

4.6.2更多

两个包lubridate包,fCalendar可以提供日期识别、提取、加减等。

4.7类型转换

下面是判断和转换函数表:

image

后面的(if-then)结构可以跟is函数结合使用,以便按照不同方式处理数据。话说,有的时候函数需要特定类型的输入,需要强制类型转换。比如数据框的一列数字,但是提取一列以后返回的是因子类型,那么就要进行类型转换。

4.8数据排序

order函数,返回一个位置向量,返回向量从小到大排列的位置。

order(..., na.last = TRUE, decreasing = FALSE)

sort.list(x, partial = NULL, na.last = TRUE, decreasing = FALSE,
          method = c("shell", "quick", "radix"))
#参数说明:na.last是说把NA放在最后,decreasing是指升序排列
#partial 部分排序指标向量(还不太理解)

order函数根据两个以上的指标排序,用order(指标1,指标2,…)如果对某个指标按降序排,加符号即可。

4.9数据集的合并

4.9.1添加列

将两个数据框按照某些列合并,两个数据框以某些列联接(成为内联接),就可以进行合并。用的是merge()函数:

merge(x, y, by = intersect(names(x), names(y)),
      by.x = by, by.y = by, all = FALSE, all.x = all, all.y = all,
      sort = TRUE, suffixes = c(".x",".y"),
      incomparables = NULL, ...)
#  x,y:用于合并的两个数据框

#  by,by.x,by.y:指定依据哪些行合并数据框,默认值为相同列名的列.

#  all,all.x,all.y:指定x和y的行是否应该全在输出文件.

#  sort:by指定的列是否要排序.

#  suffixes:指定除by外相同列名的后缀.

#  incomparables:指定by中哪些单元不进行合并.

merge函数可以实现SQL中的内联什么的,用的时候好好研究研究。可以用cbind函数合并列,用的很多。

4.9.2添加行

rbind函数,两个数据框变量得相同,但是顺序不一定相同。如果两个数据框列数不同。作如下处理:

1、删除dataframeA中多余变量;

2、向dataframeB中创建追加的变量,并设置为NA。

做个试验发现不对,rbind必须的列数相同。

4.10数据集取子集

4.10.1选入(保留)变量

比较有意思的一个选取,data.frame[paste(“q”,1:5,sep = “”)],挺好玩。数据框后面加列的名字即可。但是要用“”包起来。

4.10.2剔除(丢弃)变量

函数 %in%:

match(x, table, nomatch = NA_integer_, incomparables = NULL)

x %in% table

#参数说明:x是否有与tble中的元素
#nomatch 为匹配是返回的值
#incomparables table中不用匹配的量

#注意:match返回一个长度与x相同的向量,若匹配上,返回其table中的位置;匹配不上
#返回NA;而 %in% 返回一个长度与x相同的向量,匹配上返回TRUE,否则FALSE

例子:
注意这个例子中 d 中有重复值
d <- c(20,30,20,40,45,60)
match(d,c(20,60,40))
d %in% c(20,60,40)

返回:[1]  1 NA  1  3 NA  2 和 [1]  TRUE FALSE  TRUE  TRUE FALSE  TRUE

又一个例子:
注意:table中有重复值
d <- c(20,30,40,45,60)
match(d,c(20,60,40,20))
d %in% c(20,60,40,20)
返回:
[1]  1 NA  3 NA  2 和 [1]  TRUE FALSE  TRUE FALSE  TRUE

看得出来,table中如果有重复值,match返回值中只返回第一次出现的位置。

顺便:pmatch函数:

pmatch(x, table, nomatch = NA_integer_, duplicates.ok = FALSE)
#pmatch 是部分匹配函数
#duplicates.ok 来标注是否匹配上以后将table中匹配上的值删除,默认FALSE是删除
例子:
d <- c(20,30,40,45,60,20)
pmatch(d,c(20,60,40,20))
返回:[1]  1 NA  3 NA  2  4  #匹配上20以后将table中的第一个20删除,所以最后一个是值4

pmatch(d,c(20,60,40,20),duplicates.ok = TRUE)
返回:[1]  1 NA  3 NA  2  1 #不删除,最后一个值是1

例子:
pmatch("", "")                             # returns NA
pmatch("m",   c("mean", "median", "mode")) # returns NA
pmatch("med", c("mean", "median", "mode")) # returns 2

pmatch(c("", "ab", "ab"), c("abc", "ab"), dup = FALSE) #return NA 2 1
pmatch(c("", "ab", "ab"), c("abc", "ab"), dup = TRUE)  #return NA 2 2

#规则:
 1. 如果可以完全匹配, 则认为匹配上了, 返回table中的位置;

 2. 不满足上述条件, 如果是唯一部分匹配, 则返回table中的位置;

 3. 不满足上述条件, 则认为没有值与其匹配上.

删除变量还可以用 data.frame$colname <- NULL.注意向量这样用是错误的。

4.10.3选入观测

写一下which函数:

which(x, arr.ind = FALSE, useNames = TRUE)
arrayInd(ind, .dim, .dimnames = NULL, useNames = FALSE)
#x是一个逻辑向量或数组,NA视为FALSE,arr.ind 是逻辑向量,表明是不是返回数组的坐标。否则值返回一个数(将一个矩阵或者数据框按列拉成向量,返回这个向量为TRUE的位置),TRUE则返回其每个维度的坐标。useNames 就是是不是出现行列的名字?。。。
     row col                                       
[1,]   2   1
[2,]   1   2
[3,]   2   2 
[4,]   3   2
[5,]   4   2
[1,]   2   1
[2,]   1   2
[3,]   2   2
[4,]   3   2
[5,]   4   2 的区别……
which.max 和 which.min 函数,返回最大最小值位置。

4.10.4subset函数

subset函数是选择和观测最简单的方法,下面写一下:

subset(x, subset, select, drop = FALSE, ...)
#x可以是数据框,向量,矩阵,subset是一个逻辑表述,或者说是一个条件,
#select是要选取的部分,drop = TRUE 是将得到的结果组成列表。

4.10.5随机抽样

sample函数:

sample(x, size, replace = FALSE, prob = NULL)
#x是备选向量,n 选取的数量,replace 表示是否有放回抽样,prob是与x长度相等的选取可能性向#量,不一定和为1

此外,sampling包和survey包可以有更多的选择。

4.11使用SQL语句操作数据框

安装好sqldf包就可以愉快的使用sql语句了。

书上说第五章很强大,非常期待。

posted @ 2015-08-11 00:28  司空格子Ored  阅读(949)  评论(0编辑  收藏  举报