代数与逻辑：作业三 贝叶斯决策

文章目录

• 代数与逻辑：作业三 贝叶斯决策
• • 一、作业要求
  • 二、基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器的原理介绍
  • 三、编程实现基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器
  • 四、选择公开数据集，验证所编写的分类器性能

一、作业要求

1. 简述基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器的原理
2. 编程实现基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器
3. 选择公开数据集，验证所编写的分类器性能

二、基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器的原理介绍

1、贝叶斯定理

在介绍这两种分类器之前我们先来了解一下贝叶斯定理。

贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。

贝叶斯定理解决了已知某条件概率，如何得到两个事件交换后的概率问题，如在已知P(A|B)的情况下如何求得P(B|A)。求解公式如下：

何为条件概率？P(A|B)表示事件B已经发生的前提下，事件A发生的概率,这就叫做事件B发生下事件A的条件概率。

实际上，大多时候我们可以很容易直接得出P(A|B)，P(B|A)则很难直接得出，而 P(B|A)正是我们想要的答案。通过贝叶斯定理，我们可以从P(A|B)求得P(B|A)。

贝叶斯定理：

2、朴素贝叶斯分类

朴素贝叶斯分类是一种基础的分类算法，其思想基础是：对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，哪个最大，就认为此待分类项属于哪个类别。通俗来说，如果一个黑人走在街上，那么他很可能来自于非洲。为什么呢？因为黑人中非洲人的比率最高，当然不排除他来自于美洲或亚洲的可能，但在没有其它可用信息下，我们会认为他属于条件概率最大的类别，即非洲。这就是朴素贝叶斯的思想基础。

朴素贝叶斯分类的正式定义如下：

（1）设 x = a 1 , a 2 , . . . , a m x={a_1,a_2,...,a_m} x=a1​,a2​,...,am​为一个待分类项，二每个a为x的一个特征属性

（2）有类别集合 C = y 1 , y 2 , . . . , y n C={y_1,y_2,...,y_n} C=y1​,y2​,...,yn​

（3）计算 P ( y 1 ∣ x ) , P ( y 2 ∣ x ) , . . . , P ( y n ∣ x ) P(y_1|x),P(y_2|x),...,P(y_n|x) P(y1​∣x),P(y2​∣x),...,P(yn​∣x)

（4）如果 P ( y k ∣ x ) = m a x P ( y 1 ∣ x ) , P ( y 2 ∣ x ) , . . . , P ( y n ∣ x ) P(y_k|x)=max{P(y_1|x),P(y_2|x),...,P(y_n|x)} P(yk​∣x)=maxP(y1​∣x),P(y2​∣x),...,P(yn​∣x)，则 x ∈ y k x\in y_k x∈yk​

那么现在的关键就是如何计算第3步中的各个条件概率。我们可以这么做：

（1）找到一个已知分类的待分类项集合，这个集合叫做训练样本集

（2）统计得到在各类别下各个特征属性的条件概率估计：

P ( a 1 ∣ y 1 ) , P ( a 2 ∣ y 1 ) , . . . , P ( a m ∣ y 1 ) ; P ( a 1 ∣ y 2 ) , P ( a 2 ∣ y 2 ) , . . . , P ( a m ∣ y 2 ) ; . . . ; P ( a 1 ∣ y n ) , P ( a 2 ∣ y n ) , . . . , P ( a m ∣ y n ) P(a_1|y_1),P(a_2|y_1),...,P(a_m|y_1);P(a_1|y_2),P(a_2|y_2),...,P(a_m|y_2);...;P(a_1|y_n),P(a_2|y_n),...,P(a_m|y_n) P(a1​∣y1​),P(a2​∣y1​),...,P(am​∣y1​);P(a1​∣y2​),P(a2​∣y2​),...,P(am​∣y2​);...;P(a1​∣yn​),P(a2​∣yn​),...,P(am​∣yn​)

（3）如果各个特征属性是条件独立的，则根据贝叶斯定理有如下推导：

P ( y i ∣ x ) = P ( x ∣ y i ) P ( y i ) P ( x ) P(y_i|x)=\frac{P(x|y_i)P(y_i)}{P(x)} P(yi​∣x)=P(x)P(x∣yi​)P(yi​)​

因为分母对于所有类别为常数，因为我们只要将分子最大化皆可。又因为各特征属性是条件独立的，所以有：

P ( x ∣ y i ) P ( y i ) = P ( a 1 ∣ y i ) P ( a 2 ∣ y i ) . . . P ( a m ∣ y i ) P ( y i ) = P ( y i ) ∏ j = 1 m P ( a j ∣ y i ) P(x|y_i)P(y_i)=P(a_1|y_i)P(a_2|y_i)...P(a_m|y_i)P(y_i)=P(y_i)\prod_{j=1}^m P(a_j|y_i) P(x∣yi​)P(yi​)=P(a1​∣yi​)P(a2​∣yi​)...P(am​∣yi​)P(yi​)=P(yi​)∏j=1m​P(aj​∣yi​)

整个朴素贝叶斯分类分为三个阶段：

第一阶段——准备工作阶段，这个阶段的任务是为朴素贝叶斯分类做必要的准备，主要工作是根据具体情况确定特征属性，并对每个特征属性进行适当划分，然后由人工对一部分待分类项进行分类，形成训练样本集合。这一阶段的输入是所有待分类数据，输出是特征属性和训练样本。这一阶段是整个朴素贝叶斯分类中唯一需要人工完成的阶段，其质量对整个过程将有重要影响，分类器的质量很大程度上由特征属性、特征属性划分及训练样本质量决定。

第二阶段——分类器训练阶段，这个阶段的任务就是生成分类器，主要工作是计算每个类别在训练样本中的出现频率及每个特征属性划分对每个类别的条件概率估计，并将结果记录。其输入是特征属性和训练样本，输出是分类器。这一阶段是机械性阶段，根据前面讨论的公式可以由程序自动计算完成。

第三阶段——应用阶段。这个阶段的任务是使用分类器对待分类项进行分类，其输入是分类器和待分类项，输出是待分类项与类别的映射关系。这一阶段也是机械性阶段，由程序完成。

3、高斯朴素贝叶斯分类

由上文看出，计算各个划分的条件概率P(a|y)是朴素贝叶斯分类的关键性步骤，当特征属性为离散值时，只要很方便的统计训练样本中各个划分在每个类别中出现的频率即可用来估计P(a|y)，下面重点讨论特征属性是连续值的情况。

当特征属性为连续值时，通常假定其值服从高斯分布（也称正态分布）即：

g ( x , η , σ ) = 1 2 π σ e − ( x − η ) 2 2 σ 2 g(x,\eta,\sigma)=\frac{1}{\sqrt{2\pi}\sigma} e^-\frac{(x-\eta)^2}{2{\sigma}^2} g(x,η,σ)=2π ​σ1​e−2σ2(x−η)2​而 P ( a k ∣ y i ) = g ( a k , η y i , σ y i ) P(a_k|y_i)=g(a_k,\eta_{yi},\sigma_{yi}) P(ak​∣yi​)=g(ak​,ηyi​,σyi​)

因此只要计算出训练样本中各个类别中此特征项划分的各均值和标准差，代入上述公式即可得到需要的估计值。均值与标准差的计算在此不再赘述。

另一个需要讨论的问题就是当P(a|y)=0怎么办，当某个类别下某个特征项划分没有出现时，就会产生这种现象，这会令分类器质量大大降低。为了解决这个问题，我们引入Laplace校准，它的思想非常简单，就是对没类别下所有划分的计数加1，那么当训练样本集数量足够大时，就不会对结果产生影响，并且解决了上述频率为0的问题。

三、编程实现基于高斯分布的贝叶斯分类器与朴素贝叶斯分类器

1、高斯分布的贝叶斯分类器代码实现

# 加载虹膜数据集
from sklearn.datasets import load_iris
iris = load_iris()
  
# 存储特征矩阵 (X) 和响应向量 (y)
X = iris.data
y = iris.target
  
# 将 X 和 y 分成训练和测试集
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4, random_state=1)
  
# 在训练集上训练模型
from sklearn.naive_bayes import GaussianNB
gnb = GaussianNB()
gnb.fit(X_train, y_train)
  
# 对测试集进行预测
y_pred = gnb.predict(X_test)
  
# 将实际响应值 (y_test) 与预测响应值 (y_pred) 进行比较
from sklearn import metrics
print("y_test:",y_test)
print("y_pred:",y_pred)
print("高斯朴素贝叶斯模型精度(%):", metrics.accuracy_score(y_test, y_pred)*100)

运行的结果是：

y_test: [0 1 1 0 2 1 2 0 0 2 1 0 2 1 1 0 1 1 0 0 1 1 1 0 2 1 0 0 1 2 1 2 1 2 2 0 1
 0 1 2 2 0 2 2 1 2 0 0 0 1 0 0 2 2 2 2 2 1 2 1]
y_pred: [0 1 1 0 2 2 2 0 0 2 1 0 2 1 1 0 1 1 0 0 1 1 2 0 2 1 0 0 1 2 1 2 1 2 2 0 1
 0 1 2 2 0 1 2 1 2 0 0 0 1 0 0 2 2 2 2 2 1 2 1]
高斯朴素贝叶斯模型精度(%): 95.0

2、朴素贝叶斯分类器代码实现

from sklearn.naive_bayes import GaussianNB
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
import numpy as np

if __name__ == '__main__':
    # 加载虹膜数据集
    dataset = load_iris()
    
    # 存储特征矩阵 (X) 和响应向量 (y)
    X = dataset.data
    y = dataset.target 

    # 将 X 和 y 分成训练和测试集
    Xd_train, Xd_test, y_train, y_test = train_test_split(X, y, random_state=14)

    # 在训练集上训练模型
    clf = GaussianNB()
    clf = clf.fit(Xd_train, y_train)
    
    # 对测试集进行预测
    y_predicted = clf.predict(Xd_test)    
    accuracy = np.mean(y_predicted == y_test) * 100
    
    # 将实际响应值 (y_test) 与预测响应值 (y_pred) 进行比较
    print("y_test：",y_test)
    print("y_predicted：",y_predicted)
    print("朴素贝叶斯模型精度:",accuracy)

运行的结果是：

y_test： [0 0 0 1 2 1 0 1 0 1 2 0 2 2 0 1 0 2 2 1 0 0 0 1 0 2 0 1 1 0 0 1 1 0 1 0 2
 1]
y_predicted： [0 0 0 1 2 1 0 1 0 1 1 0 2 2 0 1 0 2 2 1 0 0 0 1 0 2 0 1 1 0 0 1 1 0 1 0 2
 1]
朴素贝叶斯模型精度: 97.36842105263158

四、选择公开数据集，验证所编写的分类器性能

from sklearn.naive_bayes     import GaussianNB,CategoricalNB	# 导入分类器
from sklearn.datasets        import load_iris	# 导入数据集
from sklearn.model_selection import cross_val_score		# 导入交叉验证
X,y = load_iris().data,load_iris().target
gnb = GaussianNB()
cnb = CategoricalNB(alpha=1)
for model in [gnb, cnb]:
    scores = cross_val_score(model,X,y,cv=10,scoring='accuracy')
    print("准确率:{:.4f}".format(scores.mean()))

运行的结果是：

准确率:0.9533
准确率:0.9267

对比准确率可以发现基于高斯分布的贝叶斯分类器性能更好一点。