马丁传奇

导航

2013年7月24日 #

SCWS中文分词,向xdb词库添加新词

摘要: SCWS是个不错的中文分词解决方案,词库也是hightman个人制作,总不免有些不尽如人意的地方。有些词语可能不会及时被收入词库中。 幸好SCWS提供了词库XDB导出导入词库的工具(phptool_for_scws_xdb.zip),下载后解压至任意文件夹,我解压至“E:/www/tools/scws_xdb/”目录下。在命令行下进入PHP的安装目录,我的目录是”E:/xampp/php“。 步骤1:执行命令行,将词库先导出来,生成一个文本文件(dict.txt): 命令格式为:php dump_xdb_file.php [要存入的文本文件] 几秒后在E:/scws目录下我... 阅读全文

posted @ 2013-07-24 00:16 马丁传奇 阅读(1527) 评论(0) 推荐(0) 编辑

SCWS中文分词,词典词性标注详解

摘要: SCWS中文分词词典条目多达26万条之巨,在整理的时候已经把很多明显不对的标注或词条清理了---- 附北大词性标注版本 ----Ag 形语素 形容词性语素。形容词代码为a,语素代码g前面置以A。 a 形容词 取英语形容词adjective的第1个字母。 ad 副形词 直接作状语的形容词。形容词代码a和副词代码d并在一起。 an 名形词 具有名词功能的形容词。形容词代码a和名词代码n并在一起。 b 区别词 取汉字“别”的声母。 c 连词 取英语连词conjunction的第1个字母。 Dg 副语素 副词性语素。副词代码为d,语素代码g前面置以D。 d 副词 取adverb的第2个字母,因其第1个 阅读全文

posted @ 2013-07-24 00:02 马丁传奇 阅读(1731) 评论(0) 推荐(0) 编辑