敏感词过滤 java 版本

/**
 * 敏感词过滤工具类
 * @author lsj
 *
 */

import java.io.FileInputStream;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.HashSet;
import java.util.List;
import java.util.Map;
import java.util.Set;

import org.apache.poi.ss.usermodel.Row;
import org.apache.poi.ss.usermodel.Sheet;
import org.apache.poi.ss.usermodel.Workbook;
import org.apache.poi.xssf.usermodel.XSSFWorkbook;

@SuppressWarnings({ "unchecked", "rawtypes" })
public class SensitiveFilterUtil {

    
    /**
     * 敏感词集合
     */    
    public static HashMap sensitiveWordMap;
    
    /**
     * 初始化敏感词库,构建DFA算法模型
     */
    public static void initContext() {
        HashSet<String> set = new HashSet<String>();
        try {
            //获取敏感词文件
            Workbook workbook = new XSSFWorkbook(new FileInputStream("D:\\ty-logistics\\敏感词库表统计.xlsx"));
            // 获取第一个张表
            Sheet sheet = workbook.getSheetAt(0);
            // 获取每行中的字段
            for (int j = 1; j <= sheet.getLastRowNum(); j++) {
                Row row = sheet.getRow(j); // 获取行
                if (row == null) {// 略过空行
                    continue;
                } else {
                    if(row.getCell(2)!=null) set.add(row.getCell(2).getStringCellValue());
                }
            }
            initSensitiveWordMap(set);
        } catch (Exception e) {
            System.out.println("<<<<<<解析敏感词文件报错!");
            e.printStackTrace();
        }
    }
 
    /**
     * 初始化敏感词库,构建DFA算法模型
     *
     * @param sensitiveWordSet 敏感词库
     */
    private static void initSensitiveWordMap(Set<String> sensitiveWordSet) {
        //初始化敏感词容器,减少扩容操作
        sensitiveWordMap = new HashMap<String,String>(sensitiveWordSet.size());  
        Map<Object,Object> temp;
        Map<Object,Object> newWorMap;
        //遍历sensitiveWordSet
        for(String key:sensitiveWordSet) {
            temp = sensitiveWordMap;
            for (int i = 0; i < key.length(); i++) {
                //转换成char型
                char keyChar = key.charAt(i);
                //库中获取关键字
                Object wordMap = temp.get(keyChar);
                //如果存在该key,直接赋值,用于下一个循环获取
                if (wordMap != null) {
                    temp = (Map) wordMap;
                } else {
                    //不存在则,则构建一个map,同时将isEnd设置为0,因为他不是最后一个
                    newWorMap = new HashMap<>();
                    //不是最后一个
                    newWorMap.put("isEnd", "0");
                    temp.put(keyChar, newWorMap);
                    temp = newWorMap;
                }
                //最后一个
                if (i == key.length() - 1) temp.put("isEnd", "1");
            }
        }
    }
 
    /**
     * 判断文字是否包含敏感字符
     *
     * 文本
     * 
     *  若包含返回true,否则返回false
     */
    public static boolean contains(String txt) {
        boolean flag = false;
        for (int i = 0; i < txt.length(); i++) {
            int matchFlag = checkSensitiveWord(txt, i); //判断是否包含敏感字符
            if (matchFlag > 0) {//大于0存在,返回true
                flag = true;
            }
        }
        return flag;
    }
    
    /**
     * 检查文字中是否包含敏感字符,检查规则如下:
     *
     * @param txt
     * @param beginIndex
     * @param matchType
     * @return 如果存在,则返回敏感词字符的长度,不存在返回0
     */
    private static int checkSensitiveWord(String txt, int beginIndex) {
        //敏感词结束标识位:用于敏感词只有1位的情况
        boolean flag = false;
        //匹配标识数默认为0
        int matchFlag = 0;
        char word;
        Map nowMap = sensitiveWordMap;
        for (int i = beginIndex; i < txt.length(); i++) {
            word = txt.charAt(i);
            //获取指定key
            nowMap = (Map) nowMap.get(word);
            if (nowMap != null) {//存在,则判断是否为最后一个
                //找到相应key,匹配标识+1
                matchFlag++;
                //如果为最后一个匹配规则,结束循环,返回匹配标识数
                if ("1".equals(nowMap.get("isEnd"))) {
                    //结束标志位为true
                    flag = true;
                }
            } else {//不存在,直接返回
                break;
            }
        }
        if (matchFlag < 2 || !flag) {//长度必须大于等于1,为词
            matchFlag = 0;
        }
        return matchFlag;
    }
 
    /**
     * 获取文字中的敏感词
     *
     *  txt文字
     * 
     *
     */
    public static List getSensitiveWord(String txt) {
        List sensitiveWordList = new ArrayList();
        for (int i = 0; i < txt.length(); i++) {
            //判断是否包含敏感字符
            int length = checkSensitiveWord(txt, i);
            if (length > 0) {//存在,加入list中
                sensitiveWordList.add(txt.substring(i, i + length));
                i = i + length - 1;//减1的原因,是因为for会自增
            }
        }
        return sensitiveWordList;
    }
 

    /**
     * context是要校验的内容。返回结果是list,为空说明没有敏感词
     * @param context
     * @return
     */
    public static List checkTxt(String context) {
        initContext();
        //包含敏感词返回所有敏感词数据
        return getSensitiveWord(context);
    }
 
    public static void main(String[] args){
        System.out.println(checkTxt("卖淫嫖娼杀人犯法"));
    }

}
 
posted @   北沐寄凉  阅读(168)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
· 单元测试从入门到精通
· 上周热点回顾(3.3-3.9)
· winform 绘制太阳,地球,月球 运作规律
点击右上角即可分享
微信分享提示