R对term进行层次聚类完整实例(tm包)

#和上一篇基本一样,只是聚类对象不同
#
#连接数据库,将数据库中的文件读取出来 #加载包 library(RMySQL) #建立连接 conn <- dbConnect(dbDriver("MySQL"), dbname = "eswp", user="root", password="root") #读取 表2008yearnew text = dbReadTable(conn, "2008yearnew")[,2:2]#只读取mesh词的那一列,通过前面的第一个下标修改读取的行数 #加载tm包 library(tm) #建立语料库 corpus=Corpus(VectorSource(text)) #从语料库建立词-文档矩阵,用tf-idf来表示,stopwords = stopwords("mesh")表示使用mesh停用词表,停用词表放在tm包中的stopwords文件夹中 tdm = TermDocumentMatrix(corpus,control = list(stopwords=stopwords("mesh"), weighting = weightTfIdf)) #用夹角余弦计算词之间相似度,这种方法在R中好像不能计算词之间的cosine,只能计算文档之间的夹角,因此需要使用别的方法,即计算距离而不是相似度 #dist_tdm <- dissimilarity(tdm, method = 'cosine') #R中计算距离的方法有euclidean,maximum,manhattan,canberra,minkowski,binary等,在这里使用euclidean距离,即欧氏距离 dist_tdm <- dist(tdm, method = 'euclidean') #根据相似度进行层次聚类,距离使用average即类平均法距离,可以使用的其他距离有,single,complete,median,mcquitty,average,centroid,ward等 hc <- hclust(dist_tdm, method = 'ave') #聚类图 plot(hc) #如果类数目较多,则会重合看不清楚,使用下列方法画出大像素图形 png("test.png",width=3000,height=3000) #将输出设备改为png,像素尽可能的大,但是如果改的过大容易出现问题。 #cex为标签的大小,同时,可以使用cex.axis属性来改变坐标系上数字的大小,使用cex.lab改变下面矩阵名字的大小 #使用cex.main改变上方标题的大小,使用cex.sub改变下方聚类方法名称的大小,lwd是图形中线的宽度,此时图形将会在工作目录中看到 plot(hc,cex=2,cex.axis=3,cex.lab=3,cex.main=3,cex.sub=3,lwd=1.5) dev.off() #使用cutree函数查看聚类结果,k=3表示将结果分成三类,这种方法分成的类第一类永远很多,除非你的分类特别多,我的600个词,分成400类才能看出点东西。 ct = cutree(hc,k=3) #使用h参数进行分类,这种方式可以看着图形进行分类,设定参数 ct1 = cutree(hc,h=0.5)#还需要继续进行测试 #对聚类结果进行数量统计,得到每个类中term的数量 table(ct) #查看第一类中的term ct1 <- ct[ct==1];ct1
posted @ 2012-07-19 17:54  todoit  阅读(713)  评论(0编辑  收藏  举报