1.想实现对一个二类文本问题的两种分类方法,首先要对文档集合的文本进行分词,然后建立倒排表,倒排表是借助于mysql数据库的,但是有一个众所周知的事情,mysql插入汉字会出现各种莫名奇妙的情况,首当其冲是插不进去,而获是插进去了,但是显示是乱码,然后将插入后的数据再读到程序中仍然是乱码。这归根结底是编码符号不一致的问题也就是。再解决这个问题的过程中,我参考了http://www.busfly.cn/post/58.html的东东,这里对他凌乱的内容加以总结,让和我一样的菜鸟能够快速入门。
我们所说的编码格式一致:可以如下图所示:character_set_client,character_set_connection,character_set_database,
character_set_results,character_set_server编码要一致。下面说说如何将这三者调为一致。
1.首先,修改my.ini文件(该文件在mysql安装目录下)
(1)修改 my.ini(MySQL Server Instance Configuration 文件)
# CLIENT SECTION
[client]
port=3306
[mysql]
default-character-set=gbk
# SERVER SECTION
[mysqld]
default-character-set=gbk
然后修改character_set_server 这个是最麻烦的,也是最关键的,具体方法如下:
先关掉服务,
DOS-》mysql安装目录,bin
mysqladmin -u root -p shutdown (回車)
然後系統將提示輸入密碼
因為停止mysql數據庫是需要mysql的root權限的
然后mysqld –C GBK启动服务器 –C是character_set_server的一个简写(可以也可以写成mysqld –character_set_server gbk).
其次,创建新数据库,方法如下:MySQLCommandLineClient下:
create database yourDB CHARACTER SET gbk;
set names 'gbk'
然后重启将mysql 服务关掉,再重启后就可以插入汉字了
完成以上操作后,在MySQLCommandLineClient下输入 use nlpprocess;(注:我新建的数据库)
show variables like 'character%'就会出现博文开头的图,也就说明字符集设置一致了。
下面我们看看修改后数据库显示情况(我的系统为mysql5.1+administrator+querybrowser)
上图中的数据是C#向mysql中加入的,需要注意的是链接字符串应该如下构造,string conmyengine="server=localhost;user=root;database=nlpprocess;port=3306;password=xxxx;charset=gbk";
下面说下python如何设置才能正确无误,没有乱码地从数据库中读取汉字字段。
db=MySQLdb.connect(user='root',db='nlpprocess',passwd='xxx',host='localhost')
cursor=db.cursor()
select='select term_id,stemroot from nlpinvert where term_id between 10 and 14'
cursor.execute("set NAMES GBK")
cursor.execute(select)
for r in cursor.fetchall():
print str(r[0])+':'+r[1]
cursor.close()
db.close()
结果如下: