数据挖掘算法学习(三)NaiveBayes算法
算法简单介绍
NBC是应用最广的分类算法之中的一个。朴素贝叶斯模型发源于古典数学理论,有着坚实的数学基础,以及稳定的分类效率。同一时候,NBC模型所需预计的參数非常少,对缺失数据不太敏感,算法也比較简单。
算法如果给定目标值时属性之间互相条件独立。
算法输入
训练数据 T={(x1,y1),(x2,y2),……,(xn,yn)}
待分类数据x0=(x0(1),x0(2),……,x0(n))T
算法输出
待分类数据x0的分类结果y0∈{c1,c2,……,ck}
算法思想
![](//img-blog.csdn.net/20140728100630926?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaWVteXhpZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
![](//img-blog.csdn.net/20140728100646604?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaWVteXhpZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
weka执行
以weather.nominal.arff为例执行结果部分截图例如以下:
![](//img-blog.csdn.net/20140728095755376?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaWVteXhpZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
![](//img-blog.csdn.net/20140728095547406?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvaWVteXhpZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
从结果中能够看出,有两个分类,因此生成一个2*2的混淆矩阵。
函数调用代码
执行结果例如以下:
待分类数据x0=(x0(1),x0(2),……,x0(n))T
算法输出
待分类数据x0的分类结果y0∈{c1,c2,……,ck}
算法思想
weka执行
以weather.nominal.arff为例执行结果部分截图例如以下:
从结果中能够看出,有两个分类,因此生成一个2*2的混淆矩阵。
函数调用代码
//读入样本
Filefile= new File("F:\\Program Files (x86)\\Weka-3-7\\data\\weather.nominal.arff");
ArffLoaderloader = newArffLoader();
loader.setFile(file);
ins= loader.getDataSet();
ins.setClassIndex(ins.numAttributes()-1);
//初始化分类器并训练
cfs= (Classifier)Class.forName("weka.classifiers.bayes.NaiveBayes").newInstance();
cfs.buildClassifier(ins);
//获取分类器结果
testingEvaluation.evaluateModelOnceAndRecordPrediction(cfs,testInst);
//打印分类结果
System.out.println("分类器的正确率:"+ (1-testingEvaluation.errorRate()));
执行结果例如以下:
分类器的正确率:0.9583333333333334
算法应用
•垃圾邮件过滤系统
•分类web网页
•分类文本
垃圾邮件过滤系统能够參考论文:周威成 马素霞 齐林海,一种基于机器学习的垃圾邮件智能过滤方法。
原创文章,转载请注明出处,谢谢。