【原创】中文分词系统 ICTCLAS2015 的JAVA封装和多线程执行（附代码）

　　本文针对的问题是 ICTCLAS2015 的多线程分词，为了实现多线程做了简单的JAVA封装。如果有需要可以自行进一步封装其它接口。

　　首先ICTCLAS2015的传送门（http://ictclas.nlpir.org/），其对中文分词做的比较透彻，而且有一定的可调式性。但是应用到实际开发中的话，多线程操作是必须的，因此有了本文的初衷。

　　可能有的小伙伴不太清楚ICTCLASS是干嘛的，下面是一段介绍：NLPIR汉语分词系统(又名ICTCLAS2015),主要功能包括中文分词；词性标注；命名实体识别；用户词典功能；支持GBK编码、UTF8编码、BIG5编码。新增微博分词、新词发现与关键词提取；张华平博士先后倾力打造十余年，内核升级10次。全球用户突破20万，先后获得了2010年钱伟长中文信息处理科学技术奖一等奖，2003年国际SIGHAN分词大赛综合第一名，2002年国内973评测综合第一名。

　　虽然其开放文档里有指出是支持多线程操作的，但是并没给出具体的方法。所以本文主要针对ICTCLAS2015的分词操作做了JAVA封装，并实现了Windows和Linux下的多线程操作。

　　本文并不太多的涉及如何使用ICTCLAS，如果有需要可以去上面的网址查询开发文档。

 

似乎也没太大需要介绍的了，下面是具体的代码：

 

1.NLPIR类，封装了初始化，分词和释放资源操作。

package test;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import com.sun.jna.Native;

public class NLPIR {
 　 //Windows下的加载方式。如果需要支持Linux，需要修改这一行为libNLPIR.so的路径。
    private CLibrary Instance = (CLibrary) Native.loadLibrary(
            "D:\\test\\NLPIR", CLibrary.class); 
    private boolean initFlag = false;
    
    public boolean init(){
        String argu = null;
        // String system_charset = "GBK";//GBK----0
        int charset_type = 1;
        
        int init_flag = Instance.NLPIR_Init(argu, charset_type, "0");
        String nativeBytes = null;

        if (0 == init_flag) {
            nativeBytes = Instance.NLPIR_GetLastErrorMsg();
            System.err.println("初始化失败！fail reason is "+nativeBytes);
            return false;
        }
        initFlag = true;
        return true;
    }
    
    public boolean unInit(){
        try {
            Instance.NLPIR_Exit();
        } catch (Exception e) {
            System.out.println(e);
            return false;
        }
        initFlag = false;
        return true;
    }
    
    public String parseSen(String str){
        String nativeBytes = null;
        try {
            nativeBytes = Instance.NLPIR_ParagraphProcess(str, 0);
        } catch (Exception ex) {
            // TODO Auto-generated catch block
            ex.printStackTrace();
        }
        return nativeBytes;
    }
    
    public CLibrary getInstance() {
        return Instance;
    }

    public boolean isInitFlag() {
        return initFlag;
    }
    
    public static void main(String[] args) {
        NLPIR tt = new NLPIR();
        tt.init();
        String str = "最近，内江威远县一名7岁的患脑瘤的小男孩卧床不起。由于治愈无望，小男孩的母亲聂晓红在决定捐献儿子器官的同时，希望儿子的父亲能回来看看儿子。“儿子4年多没有见爸爸了，如果父子俩能见最后一面多好啊。”小男孩的愿望让母亲泣不成声然而，4年来谁都不知道小男孩的父亲人在何方，聂晓红只得向成都商报求助。6月10日，成都商报客户端及新浪官方微博发出“寻人”消息。几经周折，孩子父亲李连兴终于得知消息。12日晚，李连兴从广东东莞赶至威远，见到了病危的儿子。听到儿子叫“爸爸”，看到儿子的状况，他流下了无声的泪水。他表示，自己对不起儿子，一定要陪在儿子身边，不再离开。";
        str = tt.parseSen(str.replaceAll("[\\pP‘’“”]", ""));
        
        System.out.println(str);
        
        ExecutorService exec = Executors.newCachedThreadPool();
        for(int i=0; i<10; i++)
            exec.submit(new ThreadNLP(tt));
        exec.shutdown();
        tt.unInit();
    }
}

 

2.下面的是接口类

package test;

import com.sun.jna.Library;

// 定义接口CLibrary，继承自com.sun.jna.Library
public interface CLibrary extends Library {
    // 定义并初始化接口的静态变量
    
    public int NLPIR_Init(String sDataPath, int encoding,
            String sLicenceCode);
            
    public String NLPIR_ParagraphProcess(String sSrc, int bPOSTagged);

    public String NLPIR_GetKeyWords(String sLine, int nMaxKeyLimit,
            boolean bWeightOut);
    public String NLPIR_GetFileKeyWords(String sLine, int nMaxKeyLimit,
            boolean bWeightOut);
    public int NLPIR_AddUserWord(String sWord);
    public int NLPIR_DelUsrWord(String sWord);
    public String NLPIR_GetLastErrorMsg();
    public void NLPIR_Exit();
}

 

3.线程类

package test;

public class ThreadNLP implements Runnable {

    private NLPIR tt;
    
    public ThreadNLP(NLPIR tt){
        this.tt =  tt;
    }
    @Override
    public void run() {
        // TODO Auto-generated method stub
        System.out.println(tt.parseSen("中国人民解放军保卫祖国"));
    }

}

 

　　把这三个文件复制到一个package下就可以实现多线程分词了。

　　

　　整体上没什么太难的东西，算是抛砖引玉了。希望能对大家有帮助！

 

　　未经博主允许，不得转载任何文章。