研究生数据科学核心必修课·概率图模型原理与应用教案_第1页
研究生数据科学核心必修课·概率图模型原理与应用教案_第2页
研究生数据科学核心必修课·概率图模型原理与应用教案_第3页
研究生数据科学核心必修课·概率图模型原理与应用教案_第4页
研究生数据科学核心必修课·概率图模型原理与应用教案_第5页
已阅读5页,还剩7页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

研究生数据科学核心必修课·概率图模型原理与应用教案

一、课程定位与顶层设计

(一)学科归属与学段设定

本教学设计面向硕士研究生一年级开设的数据科学与人工智能学科核心必修课。课程设立于大学研究生院智能科学学院,授课对象具备概率论、线性代数及Python编程基础。课程性质为理论深度与实践高度融合的研讨型高阶课程。依据《研究生核心课程指南》中对“不确定性人工智能”模块的要求,本课程旨在打破传统数理课程“重推导轻建模”的窠臼,建立从数据到结构、从推理到决策的完整认知闭环。

(二)课程目标体系

1.知能目标【核心】:深度阐释概率图模型“图结构-概率依存-计算范式”三位一体的哲学本质。使学生不仅掌握贝叶斯网络、马尔可夫随机场的参数学习与结构学习,更能在面对复杂系统(如生物信息调控网络、金融风险传导路径)时,具备将领域知识编码为图正则约束并实施因果推断的高阶能力。

2.过程目标【重要】:通过“模型复现-算法改进-场景迁移”三级台阶,训练学生对抗“维数灾难”的工程思维。熟练驾驭隐变量处理的两大主流范式——基于采样的蒙特卡洛方法与基于优化的变分推断,并理解其偏差-方差权衡的内在机理。

3.价值目标【热点·课程思政】:以“图模型的可解释性”为锚点,深度嵌入算法伦理教育。在讲授因果发现时,引导学生辨析“相关性与因果性”在社会算法推荐中的伦理边界,树立“可解释、可信赖、公平性”的人工智能科研价值观。

(三)教材与学术资源库

主教材:Sucar,L.E.《概率图模型原理与应用(第2版)》(清华大学出版社引进)。核心参考文献:KollerFriedman《ProbabilisticGraphicalModels:PrinciplesandTechniques》。前沿拓展资源:配套自研PGM_PyLib库、因果发现开源工具箱(Causal-learn)、动态可视化模拟器(基于Johansson的MosaicPlot交互框架及马尔可夫过程动效插件)-2-8-9。

二、教学实施全过程(16周·48学时)

本部分严格按照“课前预研-课中深研-课后延研”三阶递进范式展开,以“模块-周次”为明线,以“认知负荷螺旋上升”为暗线。

模块一:表征之道——从概率依赖到图结构(12学时)

第1周:不确定性计算的“语言转向”

1.教学主题:从贝叶斯定理到因子分解——PGM的统一框架。

2.【基础】核心要点:随机变量的联合概率空间;条件独立性公理;图作为“条件独立性编码器”的哲学含义。【高频考点】:利用链式法则与图结构进行联合概率的因子分解,区分Head-to-Head、Tail-to-Tail、Head-to-Tail三种局部结构对变量独立性的影响。

3.教学实施过程:

1.4.认知冲突导入(15分钟):展示医疗诊断系统中的“症状-疾病-检查结果”高维联合概率表(2^10条目)。提问:“存储1600个以上的参数在当前硬件下轻而易举,为何我们仍需追求紧凑的参数化表示?”引导学生从“存储效率”转向“统计效率”与“可解释性”的思考。

2.5.可视化脚手架搭建【非常重要】(25分钟):引入增强版马赛克图。不直接给出贝叶斯网络结构,而是给定三组不同的条件概率表,让学生通过马赛克图矩形面积的分割与堆叠,反向勾勒变量间的边际独立与条件独立关系。此环节借鉴Pfannkuch团队关于可视化促进概率推理的策略,将抽象的ε-独立性通过“面积比例相等”进行具身化感知-2-8。

3.6.猜想-测试循环(20分钟):分组进行“图结构速配”活动。每组领取一个黑箱数据生成器(实际由教师预设为朴素贝叶斯或级联结构),学生通过交互式界面提出结构猜想,系统立即回传基于该结构的BIC评分。通过多轮猜想与反馈,学生深刻体悟“结构是对数据概率分布紧凑且忠实的一种近似”。

7.【难点】突破策略:针对“在给定某变量时,原本依赖的变量变得独立”这一反直觉现象,采用动态贝叶斯板书的数字化映射:在大屏幕上动态演示“信息流”在图中流动与阻塞,当条件变量被观测时,对应节点呈现“高亮锁定”状态,阻断路径传导。

第2-3周:有向图与无向图的“家族谱系”

1.教学主题:贝叶斯网络(BN)与马尔可夫随机场(MRF)的对偶与选择。

2.核心要点罗列【应列尽罗】:

1.3.贝叶斯网络:有向无环图的因果语义;朴素贝叶斯分类器及其高斯扩展【高频考点】;隐马尔可夫模型作为动态贝叶斯网络的特例,其齐次性与输出独立性假设【重要】。

2.4.马尔可夫随机场:无向图的势函数与团;吉布斯分布与Hammersley-Clifford定理(存在性声明);成对MRF在图像去噪中的直观解释。

3.5.转换与选择:道德图的构造(有向转无向时的“婚姻”操作);为何某些依赖关系只能用无向图表达(如排斥关系)。

6.教学实施过程(以第3周MRF为例):

1.7.情境具象化(15分钟):播放工业CT扫描切片影像序列,展示像素间的空间相关性。提问:“如果我们要对‘像素是否属于缺陷’进行建模,相邻像素的标签之间是因果关系还是相互影响关系?”自然引出无向图的“软约束”特质。

2.8.【热点】前沿嫁接(20分钟):引入最新研究《抽查设定下基于学生评价能力的同行互评概率图模型》(RPG6/RPG7模型)-6。不直接讲解复杂的论文公式,而是抽取其核心思想:将“评分偏差”建模为隐变量,并通过图结构表达“学生-作业-评分”之间的无向关联。通过这种“降维案例”,让学生看到MRF在教育数据挖掘中的鲜活应用,打破“MRF仅用于图像”的思维定势。

3.9.批判性思辨训练(25分钟):辩论环节。正方:社交网络好友关系应用BN建模;反方:应使用MRF。双方需从条件独立性的语义(BN隐含“因果生成”,MRF隐含“相互约束”)以及参数估计的可行性出发进行交锋。教师在此过程中强化“模型没有优劣,只有是否匹配数据生成机制”的建模观。

模块二:推理之器——从查询计算到边缘概率(12学时)

第4-5周:精确推理——消息传递的艺术

1.教学主题:变量消除法与信念传播(BeliefPropagation)。

2.【基础】核心要点:变量消除的最优次序问题(图填充与树宽)【难点】;因子图与积和算法(Sum-Product);最大积算法(Max-Product)与维特比解码在HMM中的应用【高频考点】。

3.教学实施过程:

1.4.算法可视化拆解(35分钟):利用自研PGM-PyLib交互面板。以“警察局报警网络”(Burglar-Earthquake-Alarm)为例,左侧显示图结构,右侧逐帧播放变量消除时因子的乘法与边缘化求和过程。关键操作:让学生拖动变量消除顺序,实时观察中间因子表规模(维度)的变化。当某学生选择了一个导致树宽激增的顺序时,界面因子表急剧膨胀直至爆红——这种视觉冲击将“计算复杂度指数级增长”刻入长期记忆。

2.5.代码逆袭(25分钟):教师提供一段功能正常但结构混乱的信念传播代码(变量名全为a,b,c,无注释)。要求学生以结对编程形式,将代码逻辑映射回因子图,并为每个函数重命名(如compute_message_from_factor_to_variable

)。这一环节不仅是代码重构,更是对消息传递机制的概念接地。

6.【重要】思政嵌入点:在讲授树状图上的精确推理时,类比“信息在组织架构中的无损传递”。引申至“畅通民意反馈渠道”的社会治理隐喻,强调在算法设计中也应追求信息的透明与无损流转,培养工程伦理中的责任意识。

第6-8周:近似推理——在大规模世界中妥协的智慧

1.教学主题:采样法(MCMC)与变分法(VI)的双峰对峙。

2.核心要点罗列【应列尽罗,且为高频/热点】:

1.3.蒙特卡洛采样:拒绝采样的局限性;马尔可夫链蒙特卡洛的哲学——以链的稳态分布逼近目标分布【非常重要】;Metropolis-Hastings算法中提议分布的选择对混合速率的影响;吉布斯采样作为M-H的特例,其“无需调节参数”的特性在高维LDA主题模型中的统治地位-10。

2.4.变分推断:将推断转化为优化问题;KL散度的非对称性与平均场假设;重参数化技巧(略讲,留待深度学习课程)。

3.5.巅峰对决:偏差-方差视角下的MCMC(无偏、高方差、计算慢)与VI(有偏、低方差、计算快)【热点·面试高频】。

6.教学实施过程(第7周吉布斯采样专讲):

1.7.具身认知游戏(20分钟):人体马尔可夫链。邀请8名学生上台,每人手持一块白板,上面写着一个随机变量的当前值(如A=1,B=0...)。规则:每轮随机挑选一名学生,该学生根据其他7人当前值所构成的条件分布,重新采样自己的数值并更新白板。台下学生记录整个系统状态的变化轨迹。三轮过后,台下的记录员惊呼“系统不再剧烈震荡,似乎在某个区域徘徊”。此时教师点题:这就是马尔可夫链的细致平衡与稳态分布。这个身体力行的活动远比PPT上的数学推导更为震撼。

2.8.【难点】数学形式化衔接(15分钟):紧接游戏,推导在仅拥有条件分布的情况下,为何吉布斯采样无需计算归一化常数。使用板书逐步拆解:P(A|B,C,...)∝P(A,B,C,...),比例常数恰好被分子分母约去。此时回放游戏中的计算,学生豁然开朗。

3.9.工程诊断实训(25分钟):给定一个训练了一半的受限玻尔兹曼机(RBM)代码,CD-1(对比散度)已经实现,但模型生成的样本质量极差。学生需扮演“算法医生”,通过可视化链的自相关曲线和迹图,诊断是否未达到burn-in或滞后步长过小。引入Geweke诊断与Gelman-Rubin统计量,超越“跑起来就行”的初级水平,建立“收敛性诊断”的工业标准意识-4-10。

4.10.跨视野拓展(15分钟):邀请计算化学方向博士生(或播放访谈录像)简述MCMC在其领域的应用——分子构象搜索。学生惊讶地发现,同一套吉布斯采样算法,既能在文本数据中挖掘主题,又能在蛋白质库里搜索折叠结构。PGM作为“跨学科通用语言”的特征在此环节充分彰显。

模块三:学习之技——从参数估计到结构发现(12学时)

第9-10周:参数学习——完整数据与隐变量的分野

1.教学主题:极大似然估计与EM算法的“以己之矛攻己之盾”。

2.【基础】核心要点:充分统计量;BN下的全局分解与局部估计;MLE的闭式解;针对隐变量的期望最大化算法:E步构建下界,M步最大化下界【高频考点】。

3.教学实施过程:

1.4.悖论驱动(20分钟):展示一个简单的混合高斯模型数据。提问:“如果我们已知每个点来自哪个高斯分布,参数估计是初中数学;如果我们不知道,参数似乎就绕不出来了。”此时引入EM,并特别强调:EM不是在“猜缺失值”,而是在对缺失数据的分布取期望。这是90%初学者混淆的关键点。

2.5.手工计算营(35分钟):发放纸质工作底稿,包含3个数据点和一个具有隐变量的抛硬币实验(来自主教材经典案例)。学生分5步手动迭代EM:①初始化参数θ;②计算隐变量后验;③基于后验填充伪计数;④重新估计θ;⑤观察似然函数的单调上升。通过这种低维度高认知负荷的训练,将EM内化为肌肉记忆。

3.6.【热点】前沿动态:简要提及高斯隐马尔可夫模型及其在连续语音识别中的参数估计差异-9。不深入公式,仅强调“隐状态离散,观测连续”情形下输出概率的建模变迁。

第11-12周:结构学习——从数据中“生长”出图

1.教学主题:基于评分搜索与基于条件独立性的双轨制。

2.核心要点罗列【非常重要/难点】:

1.3.评分函数:似然度与复杂度的博弈;BIC(贝叶斯信息准则)具有一致性;AIC的渐近特性;MDL原理。

2.4.搜索策略:基于约束的PC算法;基于分数的爬山算法(加边、减边、转边);禁忌搜索与遗传算法的应用背景。

3.5.因果革命:从贝叶斯网络到因果图;干预vs.观察;do-算子的初步直觉;因果发现(PC算法、LiNGAM)的哲学意义【热点】-3-9。

6.教学实施过程(第12周因果发现专题):

1.7.经典案例还原(20分钟):辛普森悖论数据集(性别-录取率-院系)。传统BN结构学习(仅基于观测数据)可能学出“性别→录取”的直接边。教师引入背景知识正则化:强制加入“院系→性别?不可行,院系不决定性别;强制加入“院系→录取”并禁止“性别→院系”。重新学习后,直接边消失,间接路径揭示“院系选择”是混杂因子。此环节是课程思政的高潮:同样的数据,不同的先验(或伦理约束)会产生天壤之别的结论。在用户画像、信用评分模型中,盲目进行数据驱动的结构学习可能编码历史偏见。

2.8.【高频考点】实战推演(25分钟):给定5个变量的协方差矩阵,要求学生应用PC算法的骨架识别逻辑:从完全无向图开始,逐步通过无条件检验删除边,再通过一阶条件检验删除边。不仅写步骤,更要讨论第一类错误和第二类错误在逐级检验中的累积效应。

3.9.批判性写作(课后延申):撰写500字短文《因果发现能在观察研究中替代随机对照试验吗?》。要求引用Rubin因果模型与Pearldo-calculus的观点,但不允许出现外部网址链接。目的是训练研究生审慎的技术乐观主义精神。

模块四:前沿之拓——从静态模型到决策与深度(12学时)

第13-14周:决策图与部分可观测马尔可夫决策过程

1.教学主题:在不确定性中做决策——影响图与POMDP。

2.核心要点:效用节点与决策节点的引入;影响图的转换消除法;部分可观测马尔可夫决策过程的置信状态滤波;信念状态更新与维特比的前向算法类比【难点】。

3.教学实施过程:

1.4.仿真推演(30分钟):机器人寻物模拟器。机器人传感器噪声极大,只能获得部分观测。学生需设计POMDP的信念状态更新循环。课堂上不要求写出Bellman最优方程,而是通过网格世界动态可视化工具,实时展示随着观测序列的积累,置信地图如何从均匀分布逐渐坍缩到目标附近。这里沿用Pfannkuch提出的“动态可视化增强分布直觉”策略-2。

2.5.产业案例映射(15分钟):自动驾驶中的多目标跟踪与决策。将复杂场景抽象为动态贝叶斯网络+决策节点,使学生理解博士阶段的研究课题与本课程第2周所学HMM之间存在深刻的血缘关系。

第15-16周:图模型与深度学习的融合进路

1.教学主题:符号与联结的握手。

2.核心要点罗列【热点·前沿】:

1.3.深度神经网络作为特征提取器:PGM提供结构化的先验,DNN提供非线性的映射。

2.4.图神经网络(GNN):与MRF的关系。消息传递在GCN中的变体形式。

3.5.深度生成模型:VAE与变分推断的血缘;生成对抗网络与PGM的间接联系-9。

6.教学实施过程(第16周):

1.7.学术模拟研讨会(45分钟):全班分为6个小组,分别扮演“纯BN学派”、“纯MRF学派”、“深度学派”、“因果推理学派”、“决策系统学派”和“评审委员会”。各组事先阅读指定文献片段(主教材第16章及额外提供的一页Nature评论),在课堂上进行观点陈述与互相诘难。这不是一场为了分出胜负的辩论,而是一场为了理解“不同工具对应不同问题空间”的认知整合。

2.8.终极项目启动:发布开放性大作业——面向真实世界场景的PGM建模挑战(题目四选一:在线学习论坛中的同伴互评偏见消除、基于气象图的小范围降水概率预测、单细胞RNA测序数据的基因调控网络重建、基于眼动追踪的用户阅读疲劳模型)。要求必须包含隐变量,必须进行结构或参数学习,必须讨论模型的可解释性。

三、学业评价与反馈矫正系统

(一)形成性评价(权重60%)

1.预研笔记(10%):每节课前,学生在课程论坛提交基于教材的2个“深度疑问”。严禁提交概念定义类问题(如“什么是条件独立”),必须提交跨章节联结型或批判性质疑型问题(如“教材在MRF参数学习中侧重伪似然,但在时空数据中为何不直接使用复合条件似然?”)。此举倒逼高阶思维发生。

2.随堂代码片(20%):采用“1+1”模式:1段核心算法手写(如吉布斯采样的核心循环),1段基于PGM_PyLib的API调用。杜绝纸上谈兵。

3.双周微项目(30%):每两周一次小型建模报告。重点关注图结构设计理

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论