作业10 分类与监督学习,朴素贝叶斯分类算法

一、理解分类与监督学习、聚类与无监督学习。

1、简述分类与聚类的联系与区别。

(1)联系:分类和聚类都包含一个过程:对于想要分析的目标点,都会在数据集中寻找离它最近的点。

(2)区别:分类是可按已知规则进行。分类则属于有指导的学习,是示例式学习。

       聚类要划分的类是未知的。聚类是一种无指导学习,它不依赖预先定义的类和带类标 、号的训练实例,属于观察式学习。

2、 简述什么是监督学习与无监督学习。

(1)监督学习:利用一组已知类别的样本调整分类器的参数,使其达到所要求性能的过程。

(2)无监督学习:缺乏足够的先验知识,根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题。

 

二、朴素贝叶斯分类算法 实例

利用关于心脏病患者的临床历史数据集,建立朴素贝叶斯心脏病分类模型。

有六个分类变量(分类因子):性别,年龄、KILLP评分、饮酒、吸烟、住院天数

目标分类变量疾病:

–心梗

–不稳定性心绞痛

新的实例:–(性别=‘男’,年龄<70, KILLP=‘I',饮酒=‘是’,吸烟≈‘是”,住院天数<7)

最可能是哪个疾病?

上传手工演算过程。

 

性别

年龄

KILLP

饮酒

吸烟

住院天数

疾病

1

>80

1

7-14

心梗

2

70-80

2

<7

心梗

3

70-81

1

<7

不稳定性心绞痛

4

<70

1

>14

心梗

5

70-80

2

7-14

心梗

6

>80

2

7-14

心梗

7

70-80

1

7-14

心梗

8

70-80

2

7-14

心梗

9

70-80

1

<7

心梗

10

<70

1

7-14

心梗

11

>80

3

<7

心梗

12

70-80

1

7-14

心梗

13

>80

3

7-14

不稳定性心绞痛

14

70-80

3

>14

不稳定性心绞痛

15

<70

3

<7

心梗

16

70-80

1

>14

心梗

17

<70

1

7-14

心梗

18

70-80

1

>14

心梗

19

70-80

2

7-14

心梗

20

<70

3

<7

不稳定性心绞痛

 

演算过程:

 

3.使用朴素贝叶斯模型对iris数据集进行花分类。

尝试使用3种不同类型的朴素贝叶斯:

  • 高斯分布型
  • 多项式型
  • 伯努利型

并使用sklearn.model_selection.cross_val_score(),对各模型进行交叉验证。

from sklearn.datasets import load_iris  # 导入数据集
from sklearn.naive_bayes import GaussianNB  # 导入分布型高斯贝叶斯
from sklearn.naive_bayes import MultinomialNB # 导入多项式型高斯贝叶斯
from sklearn.naive_bayes import BernoulliNB  # 导入伯努利型高斯贝叶斯
from sklearn.model_selection import cross_val_score # 导入交叉验证分数

#导入鸢尾花数据集
iris = load_iris()
x = iris["data"]
y = iris["target"]

# 1、高斯分布
gnb = GaussianNB()  # 构建模型
gnb_model = gnb.fit(x,y)  # 构建模型
gnb_pre = gnb_model.predict(x)  # 预测模型
print("高斯分布模型准确率为:", sum(gnb_pre == y) / len(x))
# 交叉验证
print("交叉验证后")
gnb_score = cross_val_score(gnb,x,y,cv=10)
print("高斯分布模型准确率为:",gnb_score.mean(),"\n")

# 2、多项式型
mnb = MultinomialNB()  # 构建模型
mnb_model = mnb.fit(x,y)  # 训练模型
mnb_pre = mnb_model.predict(x)  # 预测模型
print("多项式模型准确率为:", sum(mnb_pre == y) / len(x))
# 交叉验证
print("交叉验证后")
mnb_score = cross_val_score(mnb,x,y,cv=10)
print("多项式模型准确率为:",mnb_score.mean(),"\n")

# 3、伯努利型
bnb = BernoulliNB()  # 构建模型
bnb_model = bnb.fit(x,y)  # 训练模型
bnb_pre = bnb.predict(x)  # 预测模型
print("伯努利模型准确率为:", sum(bnb_pre == y) / len(x))
# 交叉验证
print("交叉验证后")
bnb_score = cross_val_score(bnb,x,y,cv=10)
print("伯努利模型准确率为:",bnb_score.mean(),"\n")

 

运行结果:

posted on 2020-05-10 16:38  carmen-  阅读(451)  评论(0编辑  收藏  举报