机器学习--实验三
实验目的】
1.理解朴素贝叶斯算法原理，掌握朴素贝叶斯算法框架；
2.掌握常见的高斯模型，多项式模型和伯努利模型；
3.能根据不同的数据类型，选择不同的概率模型实现朴素贝叶斯算法；
4.针对特定应用场景及数据，能应用朴素贝叶斯解决实际问题。
【实验内容】
1.实现高斯朴素贝叶斯算法。
2.熟悉sklearn库中的朴素贝叶斯算法；
3.针对iris数据集，应用sklearn的朴素贝叶斯算法进行类别预测。
4.针对iris数据集，利用自编朴素贝叶斯算法进行类别预测。
实验报告要求】
1.对照实验内容，撰写实验过程、算法及测试结果；
2.代码规范化：命名规则、注释；
3.分析核心算法的复杂度；
4.查阅文献，讨论各种朴素贝叶斯算法的应用场景；
5.讨论朴素贝叶斯算法的优缺点。
高斯朴素贝叶斯
算法基本思想：
注意：本实验是模型为高斯朴素贝叶斯故求条件概率时，需利用如下公式：
python程序:
class NaiveBayes:
def __init__(self):
self.model = None #初始化该模型的参数为空
# 数学期望
@staticmethod
def mean(X):
return sum(X) / float(len(X)) #套公式求数学期望函数
# 标准差（方差）
def stdev(self, X):
avg = self.mean(X)
return math.sqrt(sum([pow(x-avg, 2) for x in X]) / float(len(X)))
# 概率密度函数
def gaussian_probability(self, x, mean, stdev):
exponent = math.exp(-(math.pow(x-mean,2)/(2*math.pow(stdev,2))))
return (1 / (math.sqrt(2*math.pi) * stdev)) * exponent
# 处理X_train
def summarize(self, train_data):
summaries = [(self.mean(i), self.stdev(i)) for i in zip(*train_data)]
return summaries
# 分类别求出数学期望和标准差
def fit(self, X, y):
labels = list(set(y))
data = {label:[] for label in labels} #获得所以的标签类别label
for f, label in zip(X, y):
data[label].append(f) #把对应的属性X 和类别Y 加入到data
self.model = {label: self.summarize(value) for label, value in data.items()} #对于模型分类求数学期望和标准差
return 'gaussianNB train done!'
# 计算概率
def calculate_probabilities(self, input_data):
# summaries:{0.0: [(5.0, 0.37),(3.42, 0.40)], 1.0: [(5.8, 0.449),(2.7, 0.27)]}
# input_data:[1.1, 2.2]
probabilities = {}
for label, value in self.model.items(): #对输入数据集求各个特征向量X的对应类别Y的后验概率
probabilities[label] = 1
for i in range(len(value)):
mean, stdev = value[i]
probabilities[label] *= self.gaussian_probability(input_data[i], mean, stdev)
return probabilities
# 类别
def predict(self, X_test):
# {0.0: 2.9680340789325763e-27, 1.0: 3.5749783019849535e-26}
label = sorted(self.calculate_probabilities(X_test).items(), key=lambda x: x[-1])[-1][0] #对特定的X输出对应最大概率的类别Y，及预测类别。
return label
def score(self, X_test, y_test):
right = 0
for X, y in zip(X_test, y_test):
label = self.predict(X)
if label == y:
right += 1
return right / float(len(X_test))
model = NaiveBayes()
model.fit(X_train, y_tra
scikit-learn实例
朴素贝叶斯算法的应用场景
需要一个比较容易解释，而且不同维度之间相关性较小的模型的时候。至今仍在垃圾邮件过滤器中使用。
高斯朴素贝叶斯
场景：该模型常用于性别分类，即通过一些测量的特征，包括身高、体重、脚的尺寸，判定一个人是男性还是女性。
优点：这个模型的优势是处理连续数据，特别当数据是高斯分布时，有一个很好的表现。处理连续数据数值问题的另一种常用技术是通过离散化连续数值的方法。通常，当训练样本数量较少或者是精确的分布已知时，通过概率分布的方法是一种更好的选择。在大量样本的情形下离散化的方法表现最优，因为大量的样本可以学习到数据的分布。
缺点：由于高斯朴素贝叶斯使用的是概率分布估计的方法，不合适在大数据集上应用，因为容易出现欠拟合，在数据分布不准确时或数据样本很大时，表现很差。
朴素贝叶斯算法的优缺点
优点：这是一个较强的假设。由于这一假设，模型包含的条件概率的数量大为减少，属性之间没有依赖关系，朴素贝叶斯法的学习与预测大为简化。因而朴素贝叶斯法高效，且易于实现。
缺点：分类的性能不一定很高。
【实验小结】
本次实验是关于朴素贝叶斯算法，其实朴素贝叶斯的模型不知一种，比如有多多项式分布、高斯分布、伯努利，其中多项式分布在算法中求条件概率是利用极大似然估计法，利用频率代替概率求解。而本实验中的高斯分布其实是利用正态分布的公式求解而得。
