教学大纲_贝叶斯统计

1、贝叶斯统计教学大纲课程编号：120493A课程类型：口通识教育必修课口通识教育选修课旧专业必修课口专业选修课学科基础课总学时：48 讲课学时：32实验（上机）学时：16学分：3适用对象：统计学专业先修课程：高等数学、概率论与数理统计学毕业要求：1 .扎实的数学基础和完整的统计知识体系2 .计算机编程技能与经济学基本常识3 .解决实际问题的能力4 .统计学和大数据专业知识一、教学目标贝叶斯统计是上世纪50年代后，才迅速发展起来的一门统计理论。目前， 在欧美等西方国家，贝叶斯统计已经成为了与经典统计学派并驾齐驱的当今两大 统计学派之一；随着贝叶斯理论和方法的不断发展和完善， 以及相应的计算软件 的

2、研制，贝叶斯方法在实践中获得了日趋广泛的应用；特别是，贝叶斯决策问题在统计应用中占有越来越重要的地位。 在商业经济预测、政府宏观经济管理、国 防工业中对武器装备系统可靠性评估、生物医学研究；知识发现和数据挖掘技术 等都获得了广泛应用。本课程通过贝叶斯统计的教学 使学习过传统的 数理统计课程的学生了解贝叶斯统计的基本思想和基本观点，了解贝叶斯统计与传统的数理统计在理论和处 理方法上的区别，了解贝叶斯统计的最新进展，能够系统的掌握贝叶斯统计的基 本理论、基本方法，特别是贝叶斯统计极具特色的一些处理方法，引进一个效用函数(utility function)并选择使期望效用最大的最优决策，这样就把贝叶

3、斯的 统计思想扩展到在不确定时的决策问题。 很好的将统计学与最优化的思想方法和 技术很好的进行了结合。贝叶斯统计理论和方法技术的学习，不仅能够提高学生 分析和解决实际问题的能力，还能够更进一步提高对经典数理统计的深入理解。二、教学内容及其与毕业要求的对应关系根据贝叶斯统计课程的教学内容，本课程将重点介绍贝叶斯统计推断理论，贝叶斯决策理论。并且注重贝叶斯统计处理方法和基本观点与传统数理统计相应 内容对比的讲授方式。注重案例教学，安排学生课后查阅文献资料，以及课堂研 讨等方式，了解贝叶斯统计理论和应用最新成果及前沿研究进展。对最新贝叶斯网络和贝叶斯统计的方法除了传统讲授方式外，适当的安排上机实验，

4、了解贝叶斯统计相关软件的使用方法。课程的考核方式：期末开卷+论文方式，卷面60%, 平时和论文40%。三、各教学环节学时分配以表格方式表现各章节的学时分配，表格如下：教学课时分配厅P京P内谷讲课实验其他合计1第一章绪论22第一早先验分布与后验分布423第三章贝叶斯统计推断824第四章先验分布的确定425第五章决策中的收益、损失与效应446第六章贝叶斯决策647第七章贝叶斯网络简介42合计321648四、教学内容第一章绪论第一节贝叶斯理论发展历史简介简单的介绍贝叶斯理论发展历史，在贝叶斯理论发展过程中一些统计学家的 重要工作。第二节贝叶斯方法的特点1 .贝叶斯统计理论的基本观点2 .贝叶斯统计与

5、传统数理统计的区别第三节 现代贝叶斯统计理论的研究现状1 .先验分布理论的研究2 .后验分布的统计推断3 .贝叶斯网络技术的发展第四节贝叶斯方法的应用1 .在经济分析中的应用2 .在保险精算中的应用3 .在数据挖掘中的应用教学重点、难点：重点掌握贝叶斯统计的基本思想， 本章难点是贝叶斯统计 的基本思想以及贝叶斯统计学派与传统的频率学派的分歧。课程的考核要求：通过本章的学习，要求学生了解贝叶斯统计思想的历史背 景、掌握基本观点及其基本学术思想的内涵、了解贝叶斯统计与传统数理统计的区别，了解贝叶斯统计理论的研究现状及贝叶斯方法的应用。复习思考题：1. 贝叶斯统计理论的基本观点是什么？2. 贝叶斯学

6、派与频率学派之间存在的重大分歧是什么？3. 请课后查阅贝叶斯理论相关应用文献资料，然后回答贝叶斯理论有哪些应用？第二章 先验分布与后验分布第一节 三种信息1. 总体信息2. 样本信息3. 先验信息第二节 贝叶斯公式1. 贝叶斯公式的密度函数形式2. 后验分布是三种信息的综合第三节 共轭先验分布1. 共轭先验分布2. 后验分布的计算3. 共轭先验分布的优缺点教学重点、难点： 重点讲解贝叶斯公式的密度函数形式，特别是连续随机变量形式。共轭先验分布的计算及其优缺点、课程的考核要求： 通过本章的学习，要求学生掌握先验分布与后验分布的概念。 理解 贝叶斯统计中的三种信息；掌握贝叶斯公式的密度函数形式、共

7、轭先验分布的计算及其优缺点、超参数的确定方法；了解多参数模型和充分统计量。复习思考题：1. 什么是贝叶斯公式？写出贝叶斯公式的三种形式。2. 设 是一批产品的不合格率，已知它不是0.1 就是0.2，其先验分布为：(0.1) 0.7,(0.2) 0.3假如从这批产品中随机取出8 个进行检查，发现有 2 个不合格品，求的后验分布。3. 共轭先验分布的优缺点是什么？第三章 贝叶斯推断第一节 条件方法第二节 点估计1. 贝叶斯估计2. 贝叶斯估计的误差第三节 区间估计1 . 可信区间2 .最大后验密度(HPD)可信区间第四节 假设检验1. 假设检验2. 贝叶斯因子3. 简单假设对简单假设4. 复杂假设

8、对复杂假设5. 简单原假设对复杂备择假设第五节 预测1 .预测的基本概念和基本问题2 .预测的贝叶斯方法第六节似然原理1 .对似然函数的理解2 .似然原理3 .两个学派对似然原理的不同理解而产生的影响教学重点、难点：重点讲解贝叶斯估计和贝叶斯假设检验的思想方法。难点二次损失函数下参数估计的贝叶斯方法。课程的考核要求：通过本章的学习，要求学生掌握二次损失函数下参数估计 的贝叶斯方法、估计量的误差分析、最大后验密度的可信区间；掌握贝叶斯基本 假设的涵义、检验方法的一般步骤，了解贝叶斯预测和似然原理。能用这些方法 解决一些简单的实际问题。复习思考题：1 .简述条件方法的基本思想。2 .请叙述贝叶斯参

9、数估计基本思想，并写出贝叶斯估计的具体步骤。3 .怎样评价贝叶斯估计的优劣？4 .简述贝叶斯假设检验的基本思想，它与经典假设检验的根本区别是什 么？2、25.已知随机样本X1, ,XnN( , 0),其中0已知。设 的先验分布为双 指数分布，即h( ) ec/(2c),其中c已知。(1)试求的后验分布；(2)试求的后验分布的数学期望。226.已知随机变量X N( , 1 ),随机变量Y N( , 2),其中两个正态总体含 有相同的未知,且12, 2已知。设 的先验分布 N( , 2),其中，2已知。(1)如果没有来自总体N( , 12)的Xi, ,Xn样本数据，试求随机变量Y的贝叶斯预测值及预

10、测区间。(2)如果给出了来自总体N( , 12)的Xi, ,Xn样本数据，试求随机变量Y的 贝叶斯预测值及预测区间。第四章 先验分布的确定第一节 主观概率1. 主观概率2. 确定主观概率的方法第二节 利用先验信息确定先验分布1. 直方图法2. 选定先验密度函数形式再估计其超参数3. 定分度法与变分度法第三节利用边缘分布m(x)确定先验密度1. 边缘分布m(x)2. 混合分布3. 先验选择的MII方法4. 先验选择的矩方法第四节 无信息先验分布1. 贝叶斯假设2. 位置 - 尺度参数的无信息先验分布3. 尺度参数的无信息先验分布4. 用 Fisher 信息阵确定无信息先验分布教学重点、难点：重点

11、介绍 无信息先验分布。特别是位置参数和尺度参数的无信息先验分布，和Fisher 信息阵确定无信息先验分布。课程的考核要求： 先验分布的确定是贝叶斯学派研究的重点问题，更是研究的难点， 也是经典学派批评的热点。要求学生掌握确定先验分布的几个典型方法， 掌握贝叶斯假设的概念，掌握位置参数和尺度参数的无信息先验分布，会用 Fisher 信息阵确定无信息先验分布等，并运用这些方法解决一些实际问题。复习思考题：1. 如何理解主观概率？2. 什么是贝叶斯假设？3. 混合分布的含义是什么？4. 简述 Fisher 信息阵确定无信息先验分布的基本步骤。第五章 决策中的收益、损失与效用第一节 决策问题的三要素1

12、. 决策问题2. 决策问题的三要素第二节 决策准则1. 行动的容许性2. 决策准则第三节 先验期望准则1. 先验期望准则的基本原理和应用2. 先验期望准则的两个重要性质第四节 损失函数1. 从收益到损失2. 损失函数3. 损失函数下的悲观准则第五节 常用的损失函数*1. 常用损失函数2. 常用损失函数的应用第六节 效用函数 *1. 效用和效用函数2. 效用的测定3. 效用尺度4. 常见的效用曲线5. 用效用函数作决策的例子6. 从效用到损失教学重点、难点：重点介绍 决策问题的三要素、决策准则、先验期望准则及性质，常用的损失函数、损失函数下的悲观准则和先验期望准则。课程的考核要求： 掌握决策问题

13、的三要素、决策准则、先验期望准则及其性质 ,了解常用的损失函数、损失函数下的悲观准则和先验期望准则；理解效应和效应函数、常用的效应曲线和效应的测定方法,以及效应曲线在决策中的应用。复习思考题：1. 如何理解悲观准则、乐观准则、折中准则和先验期望准则之间的联系？2. 某企业准备经营一种新产品，可采取得行动有：大批量、中批量和小批量生产。市场可能出现的状况有：畅销、一般和滞销。如大批量生产，在畅销时可获利 100 万元，一般时可获利30 万元，滞销时亏损60 万元；如中批量生产，在三种市场情况下可获利50 万元、 40 万元和亏损20 万元；如小批量生产，在三种市场情况下可获利10 万元、 9 万

14、元和 6 万元。3. 1）写出收益矩阵4. 2）在悲观准则下，该企业的最优行动是什么？5. 3）在乐观准则下，该企业的最优行动是什么？6. 4）若乐观系数0.8，该企业的最优行动是什么？第六章贝叶斯决策第一节贝叶斯决策问题1. 无数据的决策问题2. 统计决策问题3. 贝叶斯决策问题第二节 后验风险准则1. 后验风险2. 决策函数3. 后验风险准则第三节 常用损失函数下的贝叶斯估计1. 平方损失下的贝叶斯估计2. 线性损失下的贝叶斯估计3. 有限个行动问题的假设检验第四节 抽样信息期望值1. 完全信息期望值2. 抽样信息期望值第五节 最佳样本量的确定1. 抽样净益2. 最佳样本量及其上界3. 最

15、佳样本量的求法教学重点、难点：贝叶斯决策的基本概念、后验风险、决策函数和后验风险准则；平方损失函数和线性损失函数下参数的贝叶斯估计方法、有限个行动问题的贝叶斯假设检验；课程的考核要求：本章系统介绍贝叶斯决策的基本理论和方法，通过本章的学习，要求学生掌握贝叶斯决策的基本概念、后验风险、决策函数和后验风险准 则；熟练掌握平方损失函数和线性损失函数下参数的贝叶斯估计、有限个行动问题的贝叶斯hl检验；了解完全信息期望值、抽样信息期望值、最佳样本容量的 确定和正态分布下二行动线性决策问题的先验EVPI。复习思考题：1 .贝叶斯决策问题与其他据测问题的异同点是什么？2 .考察损失函数L( ,d) ec(

16、d) c( d) 1(1)证明 L( ,d) 0(2)对c 0.1, 0.5, 1.2,画出此损失函数图形(3)在这个损失函数下给出贝叶斯估计的表达式(4)设X1,X2,“|, Xn是来自正态总体N( ,1)的一个样本，的先验取无信息先验，即()1,请给出 的贝叶斯估计。第七章贝叶斯网络简介第一节 简单贝叶斯学习模型1 .简单贝叶斯学习模型的介绍2 .简单贝叶斯模型的提升第二节贝叶斯网络简介1.Bayesian网络的定义2 .贝叶斯网的表示方法3 .贝叶斯网络的构造第三节贝叶斯问题的求解第四节 Bayesian 网络的应用案例教学重点、难点：贝叶斯网络的构造和贝叶斯网络的表述方法课程的考核要求：让学生知道贝叶斯网络是表示不确定性知识的一种有效方法，贝叶斯网络的参数学习与结构学习是比较活跃的研究领域，贝叶斯网络的推理能够计算出任何给定事件在给定