朴素贝叶斯分类ppt课件

朴素贝叶斯分类，朴素贝叶斯分类，第9章，朴素贝叶斯分类，1。定义，a，b，ab，条件概率。如果是一个完整的集合，A和B是其中的事件(子集)，p表示事件发生的概率，而、是事件B发生后A发生的概率.朴素贝叶斯分类，乘法定理，注意：当P(AB)不容易直接得到时，可以用P(A)和P(B|A)的乘积或P(B)和P(A|B)的乘积间接得到。朴素贝叶斯分类，乘法定理的推广，朴素贝叶斯分类，1。集合的划分(样本空间)，2。全概率公式，朴素贝叶斯分类，2。全概率公式，全概率公式，朴素贝叶斯分类，图解，证明，分成部分，分成片断，朴素贝叶斯分类，表明全概率公式的主要目的是它能计算一个复杂事件的概率。概率计算问题被分解成几个简单的事件。最后，应用概率的可加性得到最终结果。朴素贝叶斯分类，例1，有一批相同型号的产品。众所周知，30%的产品由一家工厂生产，50%由两家工厂生产，20%由三家工厂生产。据了解，这三家工厂的产品次品率分别为2%、1%和1%。这些产品有缺陷的可能性有多大？让事件A成为“任何一个都有缺陷”。解决方案，朴素贝叶斯分类，从全概率公式获得，朴素贝叶斯分类，贝叶斯公式，朴素贝叶斯分类，以及贝叶斯公式的含义。假设有Bi (I=1，2，事件的原因。它们彼此不相容。现在已经知道事件A确实发生了。为了估计它是由“原因”毕引起的概率，可以使用贝叶斯公式来找到它。从结果可以分析出原因。朴素贝叶斯分类，证明，乘法定理：朴素贝叶斯分类，例2贝叶斯公式的应用，朴素贝叶斯分类，解，朴素贝叶斯分类，(1)从全概率公式，(2)从贝叶斯公式，朴素贝叶斯分类，从以前的数据分析中获得的概率称为先验概率，而获得信息后再次修正的概率称为后验概率。先验概率和后验概率、朴素贝叶斯分类、贝叶斯分类和贝叶斯分类器是统计分类器。他们可以预测一个类别所属的概率，例如，一个数据对象属于某个类别的概率。贝叶斯分类器是基于贝叶斯定理构建的。对比分类方法的相关研究结果表明，简单贝叶斯分类器(称为基本贝叶斯分类器)在分类性能上与决策树和神经网络相当。在处理大规模数据库时，贝叶斯分类器表现出较高的分类精度和计算性能。朴素贝叶斯分类，19，贝叶斯分类，定义：让X为具有未知类别标签的数据样本。假设H是某个假设，例如，数据样本X属于某个c类。对于分类问题，我们要确定概率P(H|X)，即给定观察到的数据样本X，假设为真。贝叶斯定理给出了计算P(H|X)的简单而有效的方法：P(H)是先验概率，或H的先验概率。P(X|H)表示在H成立的情况下观察X的概率。P(H|X)是后验概率，或条件X下H的后验概率。朴素贝叶斯分类先验概率一般指一类事物发生的概率，通常由历史数据或主观判断确定，无需实验证实。后验概率是指在特定条件下发生特定事情的概率。朴素贝叶斯分类，21，贝叶斯分类，例如：P(x1)=0.9:x1-正常细胞的概率0.9(先验概率)P(x2)=0.1:x2-异常细胞的概率0.1(先验概率)对于特定对象Y，P(x1|y):表示Y细胞正常的概率是0.82(后验概率)P(x2|y):表示Y细胞异常的概率是0朴素贝叶斯分类、朴素贝叶斯分类和朴素贝叶斯分类的工作过程如下：(1)每个数据样本用一个N维f表示换句话说，当且仅当P(Ci|X)P(Cj|X)时，对于任何j=1，2，这使P(Ci|X)最大化。具有最大P(Ci|X)的类Ci称为最大后验假设。根据贝叶斯定理，朴素贝叶斯分类，23，朴素贝叶斯分类(续)，(3)由于P(X)对所有类都是常数，只有P(X|Ci)*P(Ci)是最大值。如果配置项类的先验概率未知，通常假设这些类的概率相等，即P(C1)=P(C2)=P(厘米)，因此问题被转化为P(X|Ci)的最大化(P(X|Ci)通常被称为给定配置项的数据X的似然性，而最大化P(X|Ci)的假设Ci被称为最大似然性假设)。否则，您需要最大化P(X|Ci)*P(Ci)。注意，该类的先验概率可以用P(Ci)=si/s来计算，其中si是类Ci中训练样本的数量，s是训练样本的总数。朴素贝叶斯分类，24，朴素贝叶斯分类(续)，(4)给定一个具有许多属性的数据集，计算P(X|Ci)的成本可能非常大。为了降低计算P(X|Ci)的成本，我们可以做一个简单的假设，即类条件是独立的。给定样本的类标签，假设属性值是相互条件独立的，即属性之间没有依赖关系。以这种方式、联合概率分布、朴素贝叶斯分类、25、朴素贝叶斯分类(续)、(5)对于未知样本X分类，即对于每个分类Ci，计算P(X|Ci)*P(Ci)。当且仅当P(Ci|X)P(Cj|X)，1jm，ji时，样本X被分配给类别Ci，换句话说，X被分配给其P(X|Ci)*P(Ci)最大的类别。朴素贝叶斯分类，决策“打网球”，以前通过ID3算法解决的例子，朴素贝叶斯分类，例子，统计结果，朴素贝叶斯分类，统计结果，对以下情况作出决策：朴素贝叶斯分类，统计结果，对以下情况作出决策：模型：决策：贝叶斯公式：e是第二个表中的值，分别计算D=是/否的概率，对以下情况进行朴素贝叶斯分类、统计结果和决策：朴素贝叶斯分类已计算：类似地，它可以计算：使用公式：最后，获得以下情况：决策：朴素贝叶斯分类，对以下情