多元统计分析及R语言建模(第五版)课件第六七章

1、第6章 判别分析及R使用多元统计分析及R语言建模 第6章 判别分析及R使用多元统计分析及R语言建模 多元统计分析及R语言建模6 判别分析及R使用多元统计分析及R语言建模6 判别分析及R使用多元统计分析及R语言建模6 判别分析及R使用基本要求理解判别分析的目的及其统计思想了解并熟悉判别分析的三种类型掌握不同判别方法的判别规则和判别函数利用R语言程序，实际计算教材中的习题多元统计分析及R语言建模6 判别分析及R使用基本要求理解判别多元统计分析及R语言建模6 判别分析及R使用主要内容判别分析的目的和意义几种判别分析准则和性质 包括Fisher判别法、距离判别法、Bayes判别法R语言程序中有关判别分

2、析的算法多元统计分析及R语言建模6 判别分析及R使用主要内容判别分析6 判别分析及R使用6.1 判别分析的概念概念和方法判别分析概念判别分析方法 是在已知的分类之下，对新的样本，可以利用此法选定一判别标准，以判定将该新样品放置于哪个类中。 判别分析（Discriminat Analysis）是多元分析中用于判别样本所属类型的一种统计分析方法。6 判别分析及R使用6.1 判别分析的概念概念和方法判别分析6 判别分析及R使用6.1 判别分析的概念判别分析的种类一、确定性判别：Fisher型判别 （1）线性型 （2）距离型 （3）非线性型二、概率性判别：Bayes型判别 （1）概率型 （2）损失型6

3、 判别分析及R使用6.1 判别分析的概念判别分析的种类一、6 判别分析及R使用6.2 线性判别分析 6 判别分析及R使用6.2 线性判别分析 6 判别分析及R使用6.2 线性判别分析 一、求Fisher线性判别函数二、计算判别界值三、建立判别标准6 判别分析及R使用6.2 线性判别分析 一、求Fisher6 判别分析及R使用6.2 线性判别分析【例6.1】今天和昨天湿温差 x1及气温差x2是预报明天 下雨否的其中两个重要因子， 试建立Fisher线性判别函数如测得今天 x1=8.1, x2=2.0试报明天是雨天还是晴天？6 判别分析及R使用6.2 线性判别分析【例6.1】今天和昨6 判别分析及

4、R使用6.2 线性判别分析一、基本统计分析6 判别分析及R使用6.2 线性判别分析一、基本统计分析6 判别分析及R使用6.2 线性判别分析二、Logistic模型分析6 判别分析及R使用6.2 线性判别分析二、Logistic6 判别分析及R使用6.2 线性判别分析三、Fisher判别分析6 判别分析及R使用6.2 线性判别分析三、Fisher判别6 判别分析及R使用6.2 线性判别分析6 判别分析及R使用6.2 线性判别分析6 判别分析及R使用6.3 距离判别法6.3.1 两总体距离判别马氏距离：判别准则：6 判别分析及R使用6.3 距离判别法6.3.1 两总体距离6 判别分析及R使用6.3

5、 距离判别法6.3.1 两总体距离判别一、等方差阵：直线判别6 判别分析及R使用6.3 距离判别法6.3.1 两总体距离6 判别分析及R使用6.3 距离判别法6.3.1 两总体距离判别二、异方差阵：曲线判别6 判别分析及R使用6.3 距离判别法6.3.1 两总体距离6 判别分析及R使用6.3 距离判别法【例6.2】对例6.1天气数据做距离判别分析6 判别分析及R使用6.3 距离判别法【例6.2】对例6.16 判别分析及R使用6.3 距离判别法6.3.2 多总体距离判别一、协方差矩阵相同：线性判别6 判别分析及R使用6.3 距离判别法6.3.2 多总体距离6 判别分析及R使用6.3 距离判别法6

6、.3.2 多总体距离判别二、协方差矩阵不同：非线性判别6 判别分析及R使用6.3 距离判别法6.3.2 多总体距离6 判别分析及R使用6.3 距离判别法【例6.3】电视机品牌调查分析20 个电视机 5 种畅销 8 种平销 7 种滞销试建立判别函数，当一新产品其质量评分为8.0， 功能评分为7.5， 销售价格为65百元，问该厂产品的销售前景如何？6 判别分析及R使用6.3 距离判别法【例6.3】电视机品牌6 判别分析及R使用6.3 距离判别法6 判别分析及R使用6.3 距离判别法6 判别分析及R使用6.3 距离判别法1. 线性判别（等方差）1 0.96 判别分析及R使用6.3 距离判别法1. 线

7、性判别（等方差6 判别分析及R使用6.3 距离判别法6 判别分析及R使用6.3 距离判别法6 判别分析及R使用6.3 距离判别法2. 二次判别（异方差）1 0.956 判别分析及R使用6.3 距离判别法2. 二次判别（异方差6 判别分析及R使用6.4 Bayes 判别法6.4.1 Bayes判别准则Fisher判别缺点Bayes判别准则一是判别方法与各总体出现的概率无关二是判别方法与错判后造成的损失无关以个体归属于某类的概率（或判别值）最大或错判总平均损失最小为标准6 判别分析及R使用6.4 Bayes 判别法6.4.1 B6 判别分析及R使用6.4 Bayes 判别法6.4.1 Bayes判

8、别准则一、概率判别k个总体的先验概率密度函数分别为x来自第j类的后验概率为 (Bayes公式) 6 判别分析及R使用6.4 Bayes 判别法6.4.1 B6 判别分析及R使用6.4 Bayes 判别法6.4.1 Bayes判别准则二、损失判别 x错判为第g总体的平均损失6 判别分析及R使用6.4 Bayes 判别法6.4.1 B6 判别分析及R使用6.4 Bayes 判别法6.4.2 正态总体的Bayes判别一、Bayes判别函数求解k个总体的先验概率密度函数分别为6 判别分析及R使用6.4 Bayes 判别法6.4.2 正6 判别分析及R使用6.4 Bayes 判别法6.4.2 正态总体的

9、Bayes判别二、协方差阵相等情形6 判别分析及R使用6.4 Bayes 判别法6.4.2 正6 判别分析及R使用6.4 Bayes 判别法6.4.2 正态总体的Bayes判别三、后验概率的计算6 判别分析及R使用6.4 Bayes 判别法6.4.2 正6 判别分析及R使用6.4 Bayes 判别法【例6.4】对例6.3数据应用Bayes判别法进行判别（1）先验概率相等：6 判别分析及R使用6.4 Bayes 判别法【例6.4】对6 判别分析及R使用6.4 Bayes 判别法【例6.4】对例6.3数据应用Bayes判别法进行判别（2）先验概率不等6 判别分析及R使用6.4 Bayes 判别法【

10、例6.4】对6 判别分析及R使用6.4 Bayes 判别法两种结果比较：6 判别分析及R使用6.4 Bayes 判别法两种结果比较：两种结果比较两种结果比较6 判别分析及R使用6.4 Bayes 判别法两种结果比较6 判别分析及R使用6.4 Bayes 判别法两种结果比较6 判别分析及R使用小结1. 判别分析方法是按已知所属组的样本确定判别函数，制定判别规则，然后再判断每一个新样品应属于哪一类。2. 常用的判别方法有Fisher判别、距离判别、贝叶斯判别等，每个方法根据其出发点不同各有其特点。3. Fisher类判别对判别变量的分布类型并无要求，而Bayes类判别要变量的分布类型。因此，Fis

11、her类判别较Bayes类判别简单一些。4. 当两个总体时，若它们的协方差矩阵相同，则距离判别和Fisher判别等价。当变量服从正态分布时，它们还和Bayes判别等价。5. 判别分析中的各种误判的后果允许看作是相同的，通常将犯第一类错误的后果看得更严重些，但本章对此关注的不够。6 判别分析及R使用小结1. 判别分析方法是按已知所属组的样6 判别分析及R使用第六章讲到这里就结束了欢迎大家继续学习第七章！6 判别分析及R使用第六章第7章 聚类分析及R使用多元统计分析及R语言建模 第7章 聚类分析及R使用多元统计分析及R语言建模 多元统计分析及R语言建模7 聚类分析及R使用多元统计分析及R语言建模7

12、 聚类分析及R使用多元统计分析及R语言建模7 聚类分析及R使用基本要求理解聚类分析的目的意义及统计思想了解变量类型的几种尺度定义熟悉Q型和R型聚类分析的统计量的定义了解六种系统聚类方法及它们的统一公式掌握R语言中六种方法的具体使用步骤了解R语言中快速聚类的基本思想和用法多元统计分析及R语言建模7 聚类分析及R使用基本要求理解聚类多元统计分析及R语言建模7 聚类分析及R使用主要内容聚类分析的目的和意义聚类分析中所使用的几种尺度的定义初步掌握选用聚类方法与相应距离的原则六种系统聚类方法的定义及其基本性质R语言程序中有关聚类分析的算法基础掌握R语言中kmeans聚类的方法和用法多元统计分析及R语言建

13、模7 聚类分析及R使用主要内容聚类分析7 聚类分析及R使用7.1 聚类分析的概念和类型概念和方法基本概念聚类分析法(Cluster Analysis)是研究“物以类聚”的一种现代统计分析方法，在众多的领域中，都需要采用聚类分析作分类研究。分析方法7 聚类分析及R使用7.1 聚类分析的概念和类型概念和方法基7 聚类分析及R使用7.1 聚类分析的概念和类型 7 聚类分析及R使用7.1 聚类分析的概念和类型 7 聚类分析及R使用7.1 聚类分析的概念和类型 【例7.1】两个变量、九个样品数据及其散点图7 聚类分析及R使用7.1 聚类分析的概念和类型 【例7.17 聚类分析及R使用7.2 聚类统计量7

14、 聚类分析及R使用7.2 聚类统计量7 聚类分析及R使用7.2 聚类统计量距离矩阵相关矩阵7 聚类分析及R使用7.2 聚类统计量距离矩阵相关矩阵7 聚类分析及R使用7.2 聚类统计量相关系数矩阵：cor(X)7 聚类分析及R使用7.2 聚类统计量相关系数矩阵：cor(7 聚类分析及R使用7.2 聚类统计量7 聚类分析及R使用7.2 聚类统计量多元统计分析及R语言建模(第五版)课件第六七章7 聚类分析及R使用7.3 系统聚类法 先将个样品分成类，每个样品自成一类，然后每次将具有最小距离的两类合并，合并后重新计算类与类之间的距离，这个过程一直继续到所有的样品归为一类为止，并把这个过程做成一张系统聚

15、类图。系统聚类法的基本思想7 聚类分析及R使用7.3 系统聚类法 先将个样品分成类7 聚类分析及R使用7.3 系统聚类法类间距离计算方法（1）最短距离法（single）（2）最长距离法（complete）（3）中间距离法（median）（4）类平均法（average）（5）重心法（centroid）（6）离差平方和法（Ward）7 聚类分析及R使用7.3 系统聚类法类间距离计算方法（1）类间距离计算公式类间距离计算公式7 聚类分析及R使用7.3 系统聚类法7 聚类分析及R使用7.3 系统聚类法7 聚类分析及R使用7.3 系统聚类法系统聚类法过程（1）计算n个样品两两间的距离（2）构造n个类，每

16、类包含1个样品（3）合并距离最近两类为新类（4）计算新类与各类距离，若类个数为1，转到第5步，否则回到第3步（4）绘制系统聚类图（5）确定类的个数和样品名称7 聚类分析及R使用7.3 系统聚类法系统聚类法（1）计算n例7-1数据的系统聚类最短距离法（采用欧氏距离）例7-1数据的系统聚类最短距离法（采用欧氏距离）例7-1数据的系统聚类最长距离法（采用欧氏距离）例7-1数据的系统聚类最长距离法（采用欧氏距离）例7-1数据的系统聚类例7-1数据的系统聚类7 聚类分析及R使用7.3 系统聚类法系统聚类R语言步骤一、计算距离阵: dist二、进行系统聚类: hclust三、绘制聚类图: plot四、画分

17、类框: rect.hclust五、确认分类结果: cutree7 聚类分析及R使用7.3 系统聚类法系统聚类一、计算距离阵【例7.2】续例3.1，研究全国31个省、市、自治区2007年城镇居民生活消费的分布规律，根据调查资料做区域消费类型划分。【例7.2】续例3.1，研究全国31个省、市、自治区2007多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言

18、建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章多元统计分析及R语言建模(第五版)课件第六七章7 聚类分析及R使用7.4 kmeans聚类法概念和原理概念 kmeans法是一种快速聚类法，这种算法的基本思想是将每一个样品分配给最近中心(均值)的类中。原理 kmeans算法以k为参数，把n个对象分为k个类，使类内具有较高的相似度，类间的相似度较低。7 聚类分析及R使用7.4 kmeans聚类法概念和原理概念7 聚类分析及R使用7.4 kmeans聚类法概念和原理相似度计算是根据类中对象的均值mean来进行7 聚类分析及R使用7.4 kmeans聚类法概念和原理相似7 聚类分析及R使用7.4 kmeans 聚类法【例7.3】kmeans算法的R语言实现及模拟分析：模拟正态随机变量7 聚类分析及R使用7.4 kmeans 聚类法【例7.3】多元统计分析及R语言建模(第五版)课件第六七章7 聚类分析及R使用7.4 kmeans 聚类法7 聚类分析及R使用7.4 kmeans 聚类法7 聚类分析及R使用7.4 kmeans聚类法模拟10个变量2000个样品的正