版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
计算智能基础理论与应用第1章绪论计算智能的定义、技术类别与未来展望第1章绪论计算智能基础理论与应用1.1计算智能的定义1.1.1历史背景1.1.2基本理论1.2计算智能的技术类别1.2.1智能优化算法1.2.2神经网络技术1.3计算智能的未来展望1.3.1挑战与机遇1.3.2理论与方法的发展趋势1.4本章习题课堂研讨与课后思考题目录CONTENTS本章学习目标【知识目标】全面理解计算智能(Computational
Intelligence,
CI)的科学定义、起源背景及三大早期统一范畴。【能力目标】掌握智能优化算法与神经网络技术的分类架构、典型特征及数学机理,建立起对后续进化与群落算法的认知地图。【素养目标】客观分析计算智能在算力、鲁棒性与隐私等层面的制约瓶颈,培养面向多物理耦合高维难题的自适应自组织建模思维。第1章绪论计算智能基础理论与应用1.1计算智能的定义:引入与对比传统人工智能(Symbolic
AI)•核心机制:依赖于符号表示、显式逻辑推理和显式静态规则系统。•局限瓶颈:在处理高维、多物理耦合、不确定非线性物理极限系统时容易面临组合爆炸的算法瓶颈。计算智能(Computational
Intelligence,
CI)•核心机制:依赖于数值化数据驱动、自然启发式自适应搜索与统计学习演化机制。•学术特征:强调通过处理数值化数据而非符号规则,在可计算模型中涌现出自律寻优和自组织决策行为。第1章绪论计算智能基础理论与应用计算智能基础理论与应用1.1.1历史背景:人工智能的演进脉络1950s起步阶段计算机问世,人工智能成为科学研究的前沿。早期学术热点集中在定理证明与显式机器逻辑推理。1965模糊集创立美国学者扎德(LotfiA.Zadeh)提出模糊集合理论,为数学描述人类思维中的非精确、不确定性建立基础。1970s-1980s瓶颈专家系统等繁化工具面临高维、多冲突约束非凸难题,在刚性符号约束中遭遇组合爆炸死锁。1990s范畴确立进化计算、模糊系统大统IEEE等组织正式将人工神经网络、一为计算智能。第1章绪论计算智能基础理论与应用历史背景:计算智能统一范畴的确立1992年:Bezdek正式提出定义•美国学者贝茨德克在《ApproximateReasoning》中定义了计算智能:即通过处理数值化数据(而非符号)来实现计算的智能。•这一界定将数据驱动与经典推理区分开,标志着现代计算智能独立体系的诞生。1994年:奥兰多IEEE国际大会•IEEE神经网络委员会在佛罗里达州正式统合了三大早期主流演化流派。•将进化计算、人工神经网络、模糊系统归并为计算智能统一的技术框架,补充和扩展了传统人工智能的泛化极值求解极限。第1章绪论计算智能基础理论与应用历史背景:早期三大主流技术概述模拟人脑神经元的拓扑连接。通过大量无显式规则样本,在多维突触权重中分布式存储知识并完成模式自学习逼近。人工神经网络(ANN)模拟基于生物种群进化论的随机启发式机制。在解空间中依靠选择、交叉和变异算子执行并发迭代搜索,获取工程极优解。进化计算(EC)模拟人类认知和自然语言中的模糊不确定性。用精确的数学集合和模糊逻辑规则表示与推理非刚性控制物理。模糊系统(FS)第1章绪论计算智能基础理论与应用进化计算的技术特点与优势1.黑盒优化属性求解过程完全不依赖或要求目标函数的梯度连续可微解析,仅依据环境输入反馈进行盲盒更新,极富部署柔性。2.鲁棒自适应性能在规定的算力或时间预算限制下,自发调整参数,稳定逼近满足大规模工程硬指标约束的多维度解空间。3.适合处理NP难问题传统确定性分析模型易在求解极其庞大、非凸的离散排班或路径分配时陷入停滞,而进化计算在避开维度灾难中显示出极大优势。第1章绪论计算智能基础理论与应用人工神经网络的定义与技术特点神经网络的科学定义•人工神经网络是由极其大量的物理神经元通过拓扑自连接形成的信息处理系统,通过模拟大脑处理数据流机制获得智能。•数据信息并不保存在单一物理空间,而是在网络自适应流动中完成计算、传递与存储分布。三大核心运行特点•良好的自学习、自适应与自组织能力:无需显式写出方程,即可自动逼近任意复杂多维非线性规律。•大规模并行分布式信息存储:高抗噪且容错性能极强,个别物理突触损坏不易引起整体崩溃。•持续获取知识的能力:动态突触结构能持久自组织提取未知知识并固化于突触权值中。第1章绪论计算智能基础理论与应用模糊系统的核心理论与优势人类认知不精确性与模糊理论•传统符号系统面临非0即1的逻辑死锁,无法有效刻画或仿真人类思维和自然语言中的模糊边界。•1965年,Zadeh提出模糊集合理论,创建了精密严谨的非经典数学运算逻辑,为研究不确定认知建立基石。模糊系统运行机制与应用潜力•高层不精确模拟:旨在较高层次上精确抽象并模拟人类知识处理的非精确物理规律。•以规则存储与逻辑推理:知识高度浓缩在自组织规则中,利用条件模糊逻辑避开复杂动力学方程的束缚。•对于高炉高频波动、翼型气动力矩扰动等模型不精确、难以构建方程的工程难题具有突出潜力。第1章绪论计算智能基础理论与应用1.1.2基本理论:计算智能解决什么问题?传统优化模型的局限与瓶颈•依赖梯度,必须可导:经典分析方法要求目标函数必须具备一阶或二阶梯度可导特性,限制了物理离线黑盒调试的应用。•坠入死角,陷入局部:在处理多峰、非凹、多重障碍冲突的目标地形时,易坠入局部极小值而无法脱身。•面临严重的组合爆炸难题。计算智能的求解特征•黑盒建模:摒弃复杂精确模型约束,无需先验解析式,仅依靠输入、数据和反馈进行自律寻优。•自适应自组织:在循环迭代中不断提取并反馈解空间的隐式梯度趋势,自主优化更新机制。•并发式群体多点联合覆盖探索,跳出极小值死角,逼近全局最优目标。第1章绪论计算智能基础理论与应用基本理论:启发式搜索的科学机理自适应概率更新与自组织机理传统导数寻优受限于高阶非线性,而计算智能将目标函数转化为自适应评价指标(适应度函数)。新一代产生的可行解集逼近最优可行域的条件概率显著高于上一代个体,体现了如下条件自律概率演变:第1章绪论计算智能基础理论与应用基本理论:理论研究关注的四大科学问题01.搜索机理(Search)探究底层演进算子如何在高维搜索空间中,实现全局探索(Exploration)与局部开发(Exploitation)的动态自适应平衡。03.算法复杂度(Complexity)分析和控制单步迭代的时间与空间开销,从而最大化匹配嵌入式和实时执行器环境下的低损耗刚性运行约束。02.收敛性(Convergence)利用严格的测度论空间、马尔可夫链状态概率转换模型,从理论上严密证明算法对最优边界的确定性概率收敛。04.有效性与鲁棒性(Robustness)在面临外部高频噪声反馈、高波动物理环境扰动时,评估和提升解的可复现性与扰动抗性。第1章绪论计算智能基础理论与应用1.2技术类别:计算智能体系架构一、智能优化算法1.进化计算(EvolutionaryComputation,EC):以遗传算法(GA)、差分进化(DE)、进化策略(ES)、遗传规划(GP)等为核心。2.群体智能(SwarmIntelligence,SI):以粒子群优化(PSO)、蚁群系统(ACO)、人工蜂群(ABC)、烟花算法(FWA)、头脑风暴(BSO)等为代表。二、神经网络技术1.经典与前馈模型:包括前馈神经网络(FNN)、卷积神经网络(CNN)、循环序列记忆网络(RNN)等。2.深度层级特征学习:多层神经元激活表示,逼近大规模非线性规律。3.交叉前沿:图卷积(GCN)、生成对抗(GAN)、脉冲拟人神经网络(SNN)。第1章绪论计算智能基础理论与应用1.2.1智能优化:通用寻优范式运行三步曲▪种群/解集初始化▪个体适应度科学评价▪基于演化算子自适应迭代在问题的多维可行域边界内,随机铺设产生初始可行解个体,确保对解空间的广度均匀覆盖。构建与工业优化目标正相关的适应度映射模型,量化评估当前个体的优势和优劣势。利用选择、交叉重组、变异及粒子速度牵引等自然启发更新机制,推动新一代子代向最优滑移。第1章绪论计算智能基础理论与应用智能优化算法的三个典型特征1.启发式搜索不绑定任何精确的函数梯度推导,而是借助自然界规则、物种行为和历史先验数据形成自反馈启发信息,指引探索路径。2.并行搜索改变了传统爬山单点搜索,采用多点式种群的分布式并行机制。个体之间相互通信共享,极其贴合高并发超级算力芯片。3.自适应性能在漫长而高噪声的迭代过程中,不断提取种群搜索在不同阶段暴露的反馈规律,动态调整变异半径和参数平衡。第1章绪论计算智能基础理论与应用智能优化算法的广泛应用场景01.机器学习超参数自寻优替代传统依靠人工经验的低效、高维试错,为各式复杂深度模型寻找最优解层级结构和最优超参配置(神经网络架构搜索)。03.资源配置与工序调度车间任务顺序精细分派、车辆路径规划(TSP)等具有高度离散组合约束、组合爆炸性极强的工程调度难题。02.网络架构与拓扑规划解决超大规模通信网络、分布式控制信道的负载平衡、中继拓扑配置,以及在高噪波动条件下的动态多向路由选择。04.多目标决策与经济负荷分配在电力微电网、高端装备生产控制中,平衡安全、低碳、热效率与最低能耗成本,寻找帕累托最优均衡曲面。第1章绪论计算智能基础理论与应用1.2.2神经网络技术与MP仿生神经元模型生物机制到数学特征的投影•连接强度突触权重拟合信号电导强度。•系统偏置变量动态限制电位发放兴奋度极限阈值。•多路物理输入电位向量整合后通过非线性神经激发,引入高阶非线性泛化表示空间。非线性激活映射的关键意义•激活函数提供了超越简单多层线性映射的物理表达红线。•若无非线性转换层,无论连接网络层数多深、规模多大,其在代数矩阵运算中依然会坍缩、等价为一层的简易线性映射,丧失对弯曲非线性决策边界的学习和分类逼近能力。第1章绪论计算智能基础理论与应用人工神经网络的核心能力与运行特点自学习、自适应与自组织潜力•作为模拟并解决非线性复杂大数据规律的优秀科学工具,在极不精确、高难度的语音、图像多维信号处理上展示无可替代的能力。•权重参数通过基于微积分的梯度链式反向微调,无人工干涉自适应从噪声经验中重塑连接权值。大规模并行、高容错与联想记忆•知识规律高度隐藏并存储在庞杂神经连接突触组矩阵中。某部分权值或神经节点毁坏,整体系统不会瞬间坍塌瘫痪。•拥有极其强大的持续自动获取、处理知识机制,并能将这些不确定的统计信息以突触物理连接权值的形式长期存储在神经网络中。第1章绪论计算智能基础理论与应用典型网络结构与其对应适用任务一、前馈深度神经网络经典且结构规范的层级网络。输入层、隐藏层和输出层单向无环传递,适合常规监督分类、代数参数估计和复杂非线性函数映射回归。二、卷积神经网络(CNN)结合局部感受野、空间权重共享,极大幅削减特征通道维度,是图像分类、缺陷检测及智能化医疗三维影像识别的第一利器。三、循环神经网络(RNN)引入时序反馈循环,使网络内部包含一个能记忆历史信号的时序存储状态,天然适用于语音助手、气象高频变化预测。第1章绪论计算智能基础理论与应用智能优化与神经网络的有机融合机制智能优化破解深度网络优化死角权值初始与避错:克服经典前向梯度下降法中容易面临局部极小值死角的缺陷,先利用进化算子在全可行域大范围粗选并过滤突触权值。神经架构搜索(NAS):以高精确度、最低芯片算力耗费为约束多维极值,自演进产生最适配硬件拓扑架构的最佳网络骨架。神经网络作为自律代理加速寻优代理模型(SurrogateModel):在复杂的风洞气动外形评估、炼钢物理动力模拟等单次评估成本昂贵的难题上,用自适应网络逼近仿真模型。利用高精度深度代理神经网络代替真实现场评价,削减近千倍的等待时间开销,协助智能算法快速寻得最优控制解。第1章绪论计算智能基础理论与应用1.3计算智能的未来展望:挑战与机遇四大严峻挑战与学术深水区算力与计算资源开销:极端庞大的参数进化对存储及超强计算产生严苛依赖,边缘边缘芯片无法承载。鲁棒性红线:深度模型容易遭受微小加噪(对立样本)的颠覆性决策失误,自动驾驶、防撞等核心场景存亡攸关。可解释性缺陷:神经网络决策具有不透明“黑盒性质”,缺乏逻辑链条证明。数据隐私壁垒:海量真实医疗或机密数据的集中流动受法制约束严重限制。三大战略性机遇多模态与多物理耦合控制:加速推进工业现场异构、多信道流数据与动力硬约束下的高度对齐智能决策。推动全面自律智能化升级:推动云、雾及无人机集群无GPS信号在未知地带的分布式避障控制和工业流程智能化。催生智能化新兴经济生产力:催生高薪专业算法工程、数据安全治理合规官、神经架构进化系统工程师等产业爆发点。第1章绪论计算智能基础理论与应用1.3.1挑战一:系统复杂性与高额资源能耗指数级增长的极端算力瓶颈•从极低维度优化演变到多峰非规则组合寻优空间,从百万参数到千亿级别的深度神经参数,算力耗费呈现指数级爆破式激增。•数据高阶拟合自适应过程中产生巨额电费和环境成本,在工业低资源、轻量化场景中性价比制约严重。低能耗边缘端和实时系统的硬约束•车载智能芯片、微型机翼控制器、高炉高频自适应响应,对电位尺寸、散热量及延迟传输提出极端严苛的要求。•前沿攻关重点:研究模型高保真多保真代理估计、精细网络剪枝量化、分布式轻量化群落寻优算子,建立低损耗协同框架。第1章绪论计算智能基础理论与应用挑战二:深度模型的鲁棒性与可解释性瓶颈脆弱的鲁棒缺陷漏洞•对立样本漏洞(AdversarialAttacks):仅在多维输入数据中添加人眼不可见的极微小非规则噪声扰动,即可引发模型发生致命的决策偏折。•自动驾驶中被贴了一层微小贴纸的路标被识别为非限速或绿灯,可导致生命财产遭遇极大损害。非因果性黑盒决策隐患•临床疾病早期自动筛查、高端武器制导控制等严肃非刚性极值领域,非透明的推理行为极大地削弱了人类专家的采信度与审计落实责任。•前沿攻关重点:融合对抗边界训练、基于区间分析的可控性严密数学验证,以及网络内部自解释动力模型研究。第1章绪论计算智能基础理论与应用挑战三:数据隐私壁垒、合规红线与联合学习敏感数据的硬性流通限制优化和模式规律的抽取离不开真实海量生产、医疗和设备信号支持,但多国相继出台严格的数据安全合规法制规则,严禁涉密明文数据直接在公共服务器汇聚。联合学习的可用不可见破局各边缘分布式终端通过本地私密数据训练更新各自的网络,仅向云中心交换混淆抗噪后的权重参数并在中央实现安全聚合,打破隐私壁垒死锁。第1章绪论计算智能基础理论与应用挑战四:跨学科大融合与知识整合的壁垒1.与数学及统计交汇借助勒贝格测度、拓扑动力分析等,从数学上给随机算子在多峰复杂不规则空间的演化寻找理论支撑与马尔可夫链证明。2.与神经及认知融合提取和仿真更符合生物生理规律的信息多级传导、突触可塑性(Plasticity)等,赋予网络类人联想机理。3.与物理及工程硬约束结合不再采用纯数值黑盒盲目勘探。将流体力、多相热平衡方程作为边界或罚函数注入算法演进过程,保证解的完全可行性。第1章绪论计算智能基础理论与应用未来展望之机遇:解决复杂工业及医疗工程难题1.突破传统数学分析力学死角高炉炉况多变量极值优化:物理机理极度复杂,无法显式建模求解。计算智能通过数据驱动建立自学习反馈系统,高精度自组织优化。翼型气动结构优化设计:仅依靠极为有限的高昂风洞试验,自适应滑行、探索风阻最小极限形状。2.革新生物医药与新药分子结构匹配在浩瀚无限、约束众多的有机分子拓扑序列结合空间中,利用启发式群落突变快速寻找最低自由能的活性蛋白质解。改变了耗费长达数年的盲目实验室化学合成配对,实现数智化快速精准推演。第1章绪论计算智能基础理论与应用未来展望之机遇:推动工业智能化与全面自动化转型【智能控制与缺陷识别】实时分析高频振动、液压、温湿度等传感器数据。用深度卷积特征提取定位工业产品的亚毫米级微小缺陷,实现主动性设备维护和健康度监测。【智慧医疗与临床影像勾画】自适应分割CT及磁共振切片,毫米级勾画肿瘤和器官多模边界,辅助建立最安全、最少辐射损伤的放射治疗路线。【自动驾驶与无人集群协同】点云识别、决策规划和群落行为演变的无缝融合。提供无GPS、无网络环境下的无人机蜂群自主高容错编队与避障目标控制。【智慧能源与超大型微电网分配】对高度随机波动的超大规模分布式风电、光伏电能进行超前高精预测。智能决策储能与负荷的最佳帕累托前沿分配。第1章绪论计算智能基础理论与应用未来展望之机遇:深刻改变社会生产与经济岗位结构全社会智力资本与生产率大爆发•多模态自适应建模替代了传统重复性高、繁琐的手工特征工程以及低级数据统计清洗。•生产关系深度重塑,解放了巨量的劳动力,使创新性、决策性业务在产业结构中的权重达到空前规模。高端新兴岗位需求的洗牌爆发•刚性、陈旧、低泛化的重复性机械岗位大规模折损退潮。•新增庞大高价值人才空缺:如多模态算法科学家、数据隐私合规官、提示词系统架构师(PromptArchitect)以及神经网络自进化系统分析师。第1章绪论计算智能基础理论与应用1.3.2未来发展趋势一:深度学习与网络模型进展一、超参及拓扑骨架自动进化摆脱完全凭人力经验调参的瓶颈。利用智能优化方法自动演化最适配神经架构(NAS),达成“神经网络自我设计自组装”的目标。二、小样本/零样本极速学习破除对于人工标注百万级高额样本的极端依赖。融合大脑的少次联想机制,实现Few-shotLearning(少样本学习)和自监督提取。三、长寿命演进与梯度解耦将权值优化(局部开发)和长时期环境自适应(全局搜索)在不同的时间维度上解耦,建立自律演进的终身学习神经模型。第1章绪论计算智能基础理论与应用未来发展趋势二:多模态计算智能多源、强异构、高噪工业流数据•现实工程问题的数据并非清一色实数:传感器时序波动的同时,往往伴随着高频音视频,和非结构化的工况报告与标准文档。•系统对多源、异构物理通道的对齐并融合,面临极高的建模门槛约束。跨模态自组织融合与高层决策•跨模态表示学习:研究和构建能将图像、传感器序列、文本物理先验投影并在同一超平面语义对齐的对齐表达空间。•从而实现能看懂、听懂并自我根据多模态综合反馈下达精密、高速工业调节指示的多模态自律智能体。第1章绪论计算智能基础理论与应用未来发展趋势三:可解释人工智能追寻黑盒隐藏权值背后的因果机理•在庞杂深层、强非线性的权重矩阵中,设计能够被数学证明的可视化特征归因因果链条,将连接权重转化为逻辑映射。•让每一项关于工业阀值、患者筛查诊断的决策,均符合人类的基本严密物理常识,具备透明度、可监管可追溯性。经典技术策略路线•注意力归因机制:高亮标出输入图像/序列中对最终极值分类贡献度最高的局域核心。•可解局部代理(SurrogateExplanations):在局部非线性尖峰区域,用容易理解的决策树或线性表达式高逼真拟合深度黑盒网络的输出。第1章绪论计算智能基础理论与应用未来发展趋势四:增强学习与自组织控制系统智能体Agent无需高精度物理模型,完全依靠试错回馈,自适应微调动作行为空间。在不确定扰动的动态极值关卡下,依奖励值自组织逼近闭环自律平衡极值态。融合增强强化学习的动态决策与智能优化的多峰搜索,实现工业多流复杂流程的最优容错控制。▪试错博弈交互▪基于长期累积奖惩反馈▪超高容错自适应控制系统第1章绪论计算智能基础理论与应用未来发展趋势五:边缘计算与联合学习结合分布式轻量化边缘部署将耗费算力的进化和推理模型下沉到边缘物联网传感器端。解决网络带宽高带宽限制、高传输时延、主云服务器单点故障导致的工业瘫痪灾难。数据不流动的多中心联合演化在完全不泄露数据明文的前提下,各边缘站独立演进,依靠权重模型安全聚合。实现数据“可用不可见”,满足全球法制约束和安全红线要求。第1章绪论计算智能基础理论与应用未来发展趋势六:量子计算与计算智能的交汇量子相干、叠加带来的超指数级加速•量子机器学习(QML):设计和构建变分量子线路,建立在希尔伯特极高维Hilbert空间上具有超指数级加速的概率波模型。•拥有突破高维度、高冲突优化组合爆炸死角、直接发生量子隧穿越障的颠覆性潜力。量子启发式经典算法算子突破•借用量子比特、复数概率幅、旋转干涉角度等原理,重新编码重构经典的PSO或ACO状态表达式。•无需真实的物理量子硬件约束,在现有的冯诺依曼架构并行机上,即可大幅扩展种群的多样性和勘探越障能力。第1章绪论计算智能基础理论与应用未来发展趋势七:伦理、责任与技术向善一、算法偏见的自我负反馈放大的风险训练采用的经验数据可能夹带人类的历史偏见。若由算法不加限制地自学习,极易将其恶化放大,造成非公平风险。二、数学硬约束防偏见对齐机制在新解生成的底层公式源头阶段,直接把“非偏见、高公平、不泄露”作为刚性边界罚项嵌入算法空间,达成数学级的伦理对齐。三、人在控制闭环原则保持时刻坚守Human-in-the-loop(人在控制闭环)这一科学研究的高等级学术底线,构建符合社会监督的技术安全责任追溯路径。第1章绪论计算智能基础理论与应用第1章习题01.请简要说明计算智能的定义和起源。02.为什么进化计算在优化问题中具有优势?03.计算智能算法的设计灵感来源于哪些方面?04.智能优化算法的三个典型特征是什么?第1章绪论计算智能基础理论与应用本章小结1.计算智能的科学本质计算智能是应对符号逻辑AI在复杂、非凸不规则和不确定场景失效的学术突破,通过数据驱动、数值处理、自然启发自组织构建,早期三大支柱为人工神经网络、进化计算和模糊系统。2.两类主要寻优与拟合机制智能优化主线:专注于利用自适应的并发自律种群在可行域高维空间中进行全局非线性寻优。神经网络主线:专注于利用多层网络拓扑的链式方向自调整完成复杂非线性模式特征学习拟合。3.严峻挑战与交叉前沿未来在解决算力消耗与极端复杂性前提下,必须高度聚焦并攻克鲁棒稳定性安全红线。技术演进方向指向多模态智能、可解释可信AI、分布式联合隐私计算和量子计算的交叉融合。第1章绪论第2章进化计算概念原理、遗传算法、进化规划、进化策略、遗传规划与差分进化第2章进化计算计算智能基础理论与应用目录CONTENTS2.1概念及原理2.1.1基础概念2.1.2基本框架2.2遗传算法2.2.1基本原理2.2.2算法流程2.2.3编码表示2.2.4遗传操作2.3进化规划2.3.1基本原理2.3.2算法流程2.3.3进化规划算子2.4进化策略2.4.1基本原理2.4.2算法流程2.4.3进化策略算子2.5遗传规划2.5.1基本原理2.5.2算法流程2.5.3种群表示2.5.4进化策略算子2.6差分进化2.6.1基本原理2.6.2算法流程2.6.3种群初始化及进化策略算子第2章进化计算计算智能基础理论与应用本章学习目标【知识目标】理解进化计算的种群、适应度、选择、交叉、变异等基本概念,掌握GA、EP、ES、GP、DE五类算法的核心流程与典型算子【能力目标】能够根据优化问题判断适合的个体表示方式,比较五类进化算法在连续、离散、结构搜索中的机制差异【素养目标】形成以表示方式、适应度设计和探索开发平衡为主线的算法分析意识,能结合工程场景说明算法选择理由第2章进化计算计算智能基础理论与应用2.1概念及原理:进化计算的科学定义核心定义▪进化计算模拟自然界“优胜劣汰、适者生存”的演化过程▪候选解以种群形式并行存在,每轮迭代都依据适应度进行筛选▪算法通常不依赖梯度,适合黑盒、多峰、非连续和含噪优化问题三个关键词▪随机搜索:通过概率性算子扩展搜索空间▪自适应:适应度反馈决定个体保留和更新方向▪群体并行:多个候选解同时探索,降低陷入局部最优的风险第2章进化计算计算智能基础理论与应用进化计算的优势与发展脉络全局搜索▪多点并行搜索能覆盖多个潜在峰值区域▪适合非凸、多峰和复杂约束问题鲁棒性▪不要求目标函数连续可导▪面对噪声反馈时仍可依靠群体统计推进搜索发展主线▪GA强调遗传操作▪EP/ES强调实数变量与策略参数▪GP面向结构表达式,DE面向连续变量差分扰动进化计算:从生物进化到问题求解进化计算基于达尔文进化论和自然选择思想。算法把可行解组织为种群,通过竞争、选择和变异推动搜索。种群迭代使较适应问题目标的个体更可能保留下来。遗传算法、进化规划、进化策略、遗传规划和差分进化构成本章主线。第2章进化计算计算智能基础理论与应用算法2.1:进化计算整体框架算法2.1进化计算整体框架输入:种群规模N、适应度函数f、终止条件T及进化算子参数。输出:满足终止条件时的最优个体或最终种群。1:随机生成初始种群。2:评价种群中每个个体的适应度。3:依据适应度选择父代或保留优秀个体。4:执行交叉、变异等进化操作,产生下一代。5:若未满足终止条件,继续迭代;否则输出最优个体或最终种群。算法解读:算法2.1是五类进化算法共享的骨架;不同算法的差异主要体现在编码方式、进化算子和选择机制流程概览初始化种群适应度评价选择操作搜索操作产生下一代终止输出算法2.1给出进化计算的通用循环。初始化决定搜索空间覆盖程度,适应度评价决定个体优劣。选择和搜索操作共同推动种群从当前代进入下一代。终止条件通常与迭代次数、收敛状态或评价预算有关。理解要点:第2章进化计算计算智能基础理论与应用图2.1进化计算的选择过程图2.2个体的交叉过程图2.3个体的变异过程▪选择决定哪些个体保留或进入繁殖;交叉重组父代信息;变异注入新搜索方向▪三类算子共同维持“继承优秀解”和“保持多样性”的平衡第2章进化计算计算智能基础理论与应用种群与适应度函数种群初始化▪种群由多个候选解构成,是进化算法进行并行搜索的基本载体▪初始化应尽量覆盖可行域,避免初始个体过度集中▪种群规模越大,多样性越强,但每代计算成本也越高适应度构建▪适应度值衡量候选解优劣,是选择与更新的直接依据▪最小化问题常转换为最大化适应度,例如f(x)=Cmax-g(x)▪适应度函数若设计不当,会直接改变搜索方向和收敛速度第2章进化计算计算智能基础理论与应用终止条件与参数设置常见终止条件▪达到预设最大迭代次数或最大函数评价次数▪连续若干代最优适应度提升很小,认为搜索趋于稳定▪已获得满足工程精度或约束要求的可接受解核心参数▪种群规模控制并行搜索宽度▪交叉概率影响信息重组强度,变异概率影响新信息注入▪参数设置没有固定最优值,应结合问题规模、编码方式和计算预算调整第2章进化计算计算智能基础理论与应用2.2遗传算法(GA):基本原理算法思想▪遗传算法用染色体表示候选解,通过选择、交叉、变异模拟生物遗传演化▪它适合离散组合优化,也可通过实数编码扩展到连续优化▪GA的表现很大程度取决于编码方式与遗传算子是否匹配问题结构讲授主线▪先讲编码:问题如何变成染色体▪再讲评价:染色体如何获得适应度▪最后讲遗传操作:优秀信息如何保留、重组和扰动第2章进化计算计算智能基础理论与应用遗传算法流程拆解初始化▪确定编码长度、变量范围和约束处理方式▪随机或启发式产生初始种群,避免可行解过少繁殖更新▪选择算子提高优良个体进入繁殖池的概率▪交叉与变异共同产生下一代候选解终止输出▪根据迭代次数、适应度变化或目标精度终止▪通常输出历史最优个体,而不仅是最后一代最优个体遗传算法先进行编码和种群初始化。每轮迭代包括适应度评价和遗传操作。满足停止条件后输出当前种群对应的较优可行解。关键点第2章进化计算计算智能基础理论与应用图2.4遗传算法流程图关键点▪流程由编码初始化、适应度评价、选择、交叉、变异和终止判断构成▪每一轮循环都在当前种群基础上产生下一代,逐步提高群体平均质量▪若终止条件过早,可能得到未充分进化的解;过晚则增加计算开销第2章进化计算计算智能基础理论与应用2.2.3编码表示:二进制与实数编码二进制编码▪将变量映射成由0和1组成的定长染色体▪适合逻辑选择、组合优化、开关决策等离散问题▪编码精度取决于染色体长度,长度过大则搜索空间急剧扩张▪二进制编码适合离散问题或可离散化变量。实数编码▪直接用变量的真实数值作为个体表示▪适合连续变量优化,避免二进制解码带来的精度损失▪对应交叉和变异算子也应使用实数空间的操作方式▪实数编码可直接表示连续变量,减少编码和解码成本。重点:编码把可行解转化为算法可操作的染色体表示。
编码方式决定交叉、变异等算子是否容易保持可行性。第2章进化计算计算智能基础理论与应用编码方式如何影响搜索编码选择原则▪编码必须能完整表示问题的可行解,最好能减少无效解产生▪编码应便于设计交叉、变异和修复算子▪工程问题中常把约束嵌入编码,降低后续惩罚和修复压力典型对应关系▪0/1选择问题常用二进制串▪排序和路径问题常用排列编码▪连续参数优化常用实数向量,避免过长二进制串带来的精度负担遗传算法步骤:从可行解到新种群流程概览编码表示初始化种群评价适应度遗传操作停止搜索第2章进化计算计算智能基础理论与应用2.2.4选择算子:轮盘赌与Boltzmann选择轮盘赌选择▪个体被选择的概率与适应度成正比▪优良个体更容易被选中,但低适应度个体仍有机会保留▪这种概率选择有助于维持种群多样性Boltzmann选择▪通过温度参数T动态调节选择压力▪进化初期T较高,保留更多探索机会▪进化后期T降低,选择更偏向高适应度个体选择压力:保留优秀与避免早熟选择压力过低▪优秀个体优势不能充分放大,搜索改进速度较慢▪种群长时间随机漂移,计算资源消耗较大▪适合早期保持多样性,但不宜贯穿整个过程选择压力过高▪少数高适应度个体迅速占据种群,容易早熟收敛▪局部最优附近重复搜索,变异难以恢复多样性▪可用精英保留、温度调节或适应度缩放进行平衡第2章进化计算计算智能基础理论与应用图2.5二进制编码的交叉方法表示图关键点▪交叉点决定父代染色体片段如何交换▪单点交叉结构简单,适合演示遗传信息重组的基本思想▪交叉本身不是随机替换,而是带有父代信息继承关系的重组▪不同交叉点数量对应不同的信息交换粒度。▪交叉用于组合父代基因片段。▪二进制编码的交叉过程直观展示了遗传信息重组。第2章进化计算计算智能基础理论与应用变异算子:二进制与实数变异二进制变异▪按变异概率Pm对基因位执行0/1翻转▪主要作用是引入父代中没有的新组合▪变异率过低会缺少探索,过高会破坏已有优良结构实数多项式变异▪对连续变量进行概率扰动,形成邻域搜索▪扰动幅度应与变量边界和搜索阶段相适应▪实数变异适合连续优化问题中的局部微调参数观察:把变异率从低到高比较:低变异利于稳定收敛,高变异利于发现新区域。课堂补充:变异率可看成探索开关,低变异利于稳定,高变异利于跳出局部区域。重点:变异负责注入新搜索方向,是跳出局部最优的重要机制。第2章进化计算计算智能基础理论与应用GA运行中的多样性控制为什么会早熟▪选择压力过强会让相似个体迅速扩散▪交叉只重组已有片段,不能凭空创造全新基因取值▪变异概率过低时,种群难以跳出局部最优附近常用控制办法▪保留少量精英个体,同时维持普通个体的随机探索▪根据收敛情况调节变异概率或引入移民个体▪对约束问题配合修复算子,减少不可行个体浪费课堂补充:GA始终追问三个问题:怎样编码、怎样评价、怎样产生仍可行的新个体。课堂主线:先看问题表示,再看新解如何产生,最后看怎样评价、选择与收敛。第2章进化计算计算智能基础理论与应用2.3进化规划(EP):基本原理与GA的区别▪进化规划由L.J.Fogel提出,侧重物种行为演化▪通常采用十进制实数编码,减少编码转换▪EP一般不强调交叉,主要依靠变异产生后代为什么重视变异▪变异是EP产生新个体的核心机制▪变异步长和噪声分布决定搜索范围▪局部细化与全局跳跃都通过变异分布来调控提示:EP可简化为两步:用变异分布产生子代,用竞争池选择下一代。补充:EP的讲授核心是“变异分布给出搜索半径,竞争池给出筛选压力”。主线:EP抓住“变异产生候选,竞争筛选候选”这一条主线。第2章进化计算计算智能基础理论与应用图2.6进化规划算法流程图关键点EP流程体现父代通过变异产生子代,再由竞争机制保留优秀个体相较GA,EP不把交叉作为必需步骤把焦点放在变异算子与选择竞争上流程突出变异操作在新个体生成中的作用。选择阶段决定哪些个体进入下一代。第2章进化计算计算智能基础理论与应用2.3.3进化规划算子:三类变异分布核心:变异分布决定EP在探索与开发之间如何取舍。均匀变异▪从给定上下界的均匀分布中采样噪声▪适合保持明确范围内的随机覆盖高斯变异▪噪声服从η~N(0,σ²)▪小幅扰动概率高,利于连续空间局部搜索柯西变异▪长尾分布更容易产生大跳跃▪有助于算法跳出局部最优区域重点:变异负责注入新搜索方向,是跳出局部最优的重要机制。第2章进化计算计算智能基础理论与应用EP变异步长与搜索行为步长较大▪搜索范围广,容易跨越局部最优附近的低质量区域▪适合进化早期或目标函数高度多峰的情形▪若长期保持过大步长,后期精细寻优能力会下降步长较小▪有利于在当前优良区域附近进行精细搜索▪适合进化后期提高解的精度▪若过早缩小步长,会增加陷入局部最优的风险参数观察:把变异率从低到高比较:低变异利于稳定收敛,高变异利于发现新区域。补充:变异率可看成探索开关,低变异利于稳定,高变异利于跳出局部区域。重点:变异负责注入新搜索方向,是跳出局部最优的重要机制。第2章进化计算计算智能基础理论与应用进化规划选择机制:竞争池与相对适应度竞争池▪将父代与子代合并形成候选集合▪每个个体与若干对手比较,获得相对胜出次数▪胜出次数越高,越可能进入下一代课堂强调▪选择不是简单复制最优个体,而是通过竞争保留整体优势▪竞争池机制能减少偶然适应度波动造成的误选▪EP的关键是“变异产生候选,竞争筛选候选”参数观察:同一初始种群下调大选择压力,观察最优适应度上升速度与种群多样性下降速度。课堂补充:选择压力要可控,太弱难以收敛,太强会让种群过早变得相似。重点:选择压力决定收敛速度,也决定算法是否过早丢失多样性。第2章进化计算计算智能基础理论与应用EP适用场景与授课强调适用场景▪连续参数优化、噪声环境优化和模型参数调整▪目标函数不可导或难以获得梯度信息时,EP仍可直接使用▪需要强调“变异分布决定搜索半径”这一主线与GA对比▪GA强调编码与交叉重组,EP强调实数变异与竞争选择▪GA常用于离散组合优化,EP更自然地处理连续变量▪两者都遵循种群评价和迭代更新的进化计算框架第2章进化计算计算智能基础理论与应用2.4进化策略(ES):基本原理提出背景▪进化策略由Rechenberg和Schwefel在工程实验优化中提出▪典型个体由决策变量和策略参数共同构成▪策略参数可控制变异强度,使搜索过程自适应与EP的差别▪EP强调物种行为演化,ES更强调连续参数优化▪ES常同时进化对象变量和变异步长▪ES中的(μ+λ)与(μ,λ)选择是理解该类算法的核心提示:把个体写成“对象变量+策略参数”,说明ES为什么能自适应搜索尺度。课堂补充:ES把搜索尺度也作为个体的一部分,让算法在迭代中学习变异步长。重点:ES把策略参数也纳入演化,使算法逐步学习搜索尺度。第2章进化计算计算智能基础理论与应用图2.7进化策略算法流程图关键点▪ES流程包含初始化、变异、重组、评价和选择▪策略参数随个体共同更新,使搜索步长可自适应变化▪(μ+λ)-ES保留父代竞争,(μ,λ)-ES只让子代竞争流程解读:▪ES的核心不是交叉,而是“策略参数随个体一起进化”▪个体通常表示为:(x,σ),其中x是问题变量,σ是变异步长。▪先对父代进行重组和变异,生成λ个子代。▪再通过选择机制保留μ个个体进入下一代。▪σ会随进化过程自动调整:前期步长较大,利于全局探索;后期步长减小,利于局部精修。第2章进化计算计算智能基础理论与应用2.4.3进化策略算子(μ+λ)-ES▪μ个父代产生λ个子代▪父代与子代共同竞争,选出适应度最高的μ个体进入下一代▪本质上体现精英保留,能保护当前最优解(μ,λ)-ES▪只有λ个子代参与下一代选择,父代不直接保留▪选择压力更强,能促进种群更新▪但若子代质量波动较大,可能丢失已有优秀结构选择机制对比:保守稳定vs更新彻底(μ+λ)-ES:父代和子代共同竞争,当前优秀个体不容易丢失,适合希望稳定收敛的场景。(μ,λ)-ES:只允许子代进入选择池,父代必须被新一代替代,更新压力更强。如果目标函数噪声较大或子代质量波动明显,(μ+λ)-ES更稳。如果搜索停滞、需要增强种群更新,可考虑(μ,λ)-ES。第2章进化计算计算智能基础理论与应用进化策略中的交叉、重组与变异重组方式▪离散重组:随机选择父代分量构成子代▪中值重组:取父代分量平均值作为子代分量▪局部/全局交叉决定参与重组的父代数量变异方式▪基因型变异直接扰动决策变量▪策略参数变异调整后续变异程度▪搜索初期可大步探索,后期逐渐缩小扰动实现精细收敛课堂判断重组更像“继承已有经验”。变异更像“试探新的邻域”。策略参数变异决定下一代搜索是更粗还是更细。算子分工:重组负责整合,变异负责探索重组把多个父代的变量或策略参数进行组合,形成较稳定的继承结构。变异在重组结果上加入随机扰动,产生新的搜索方向。对象变量x的变异改变候选解位置;策略参数σ的变异改变后续搜索步长。ES中的关键不是单次扰动,而是让搜索尺度随进化过程逐步自适应。第2章进化计算计算智能基础理论与应用ES策略参数的自适应思想策略参数▪ES不仅演化问题变量,也可演化变异步长等策略参数▪策略参数控制搜索尺度,相当于让算法学习“如何搜索”▪自适应步长能在粗搜索和细搜索之间逐步过渡教学对比▪GA通常把交叉和变异概率作为外部参数▪ES更强调把搜索尺度纳入个体结构共同演化▪这一思想为后续许多自适应进化算法提供了基础自适应逻辑:从粗搜索到细搜索当种群分散、改进空间较大时,较大的变异步长有利于扩大搜索范围。当个体逐渐靠近优良区域时,较小的变异步长有利于精细寻优。策略参数随个体共同竞争:能产生好子代的步长更容易被保留下来。因此ES不需要人工固定搜索尺度,而是通过进化过程逐步调整。重点:ES的自适应不是手动调参,而是让有效的搜索步长在选择过程中自然保留下来。第2章进化计算计算智能基础理论与应用2.5遗传规划(GP):基本原理核心思想▪GP把个体表示为计算机程序或表达式结构▪树结构中,非叶子节点通常是函数,叶子节点是变量或常数▪算法搜索的不只是参数值,而是表达式或程序结构适用问题▪符号回归:自动发现变量之间的函数关系▪规则学习:生成可解释的判别或控制规则▪程序结构搜索:寻找满足目标的组合表达式课堂提问:为什么GP容易出现树膨胀?引出复杂度惩罚、最大深度和函数集约束。课堂补充:GP的难点不在数值参数,而在函数集、终端集和树规模控制是否合理。课堂主线:GP搜索的是表达式或程序结构,而不仅是普通数值参数。第2章进化计算计算智能基础理论与应用GP的函数集、终端集与适应度函数集与终端集▪函数集提供树的内部节点,如加减乘除、逻辑判断或领域算子▪终端集提供叶节点,如变量、常数或输入特征▪两者共同限定GP能表达的程序空间适应度设计▪适应度通常衡量程序输出与目标之间的误差或任务完成质量▪需要惩罚过度复杂的树,避免程序膨胀▪可解释性和泛化能力常常与训练适应度一起考虑设计要素典型例子课堂说明函数集+、-、×、÷、sin、if-then决定树能“怎么计算”终端集x、y、常数、输入特征决定树能“用什么信息”适应度误差、准确率、任务得分决定哪些程序被保留第2章进化计算计算智能基础理论与应用GP流程与树形表示图2.8遗传规划算法流程图图2.9计算问题表示图2.10逻辑问题表示▪图2.8说明GP仍遵循初始化、评价、选择、遗传操作和终止判断
▪图2.9与图2.10说明树形结构可表达数值计算和逻辑规则关键点树结构可统一表示计算表达式和逻辑规则;表示方式决定交叉和变异能否保持语义有效;GP的优势在于可以搜索程序结构本身。第2章进化计算计算智能基础理论与应用图2.11产生一个子代的过程展示图2.12产生两个子代的过程展示图2.13遗传规划的变异算子▪子树交叉通过替换或互换子树生成新个体▪变异可作用于函数节点、终端节点,也可执行生长、裁剪和高斯扰动第2章进化计算计算智能基础理论与应用2.6差分进化算法(DE):基本原理差分扰动▪DE面向连续变量全局优化▪它利用种群中不同个体之间的差分向量构造变异方向▪差分信息来自当前种群,因此搜索方向具有自适应特征与GA的区别▪GA通常强调编码与遗传重组▪DE直接在连续向量空间操作▪DE的关键是变异向量、交叉试验个体和贪婪选择F决定差分步长,CR决定试验向量继承比例,两者共同影响探索和收敛。课堂补充:DE的方向来自种群差分,F控制步长,CR控制新旧信息在试验个体中的混合比例。第2章进化计算计算智能基础理论与应用算法2.2:差分进化实现过程算法2.2差分进化的实现过程输入:种群规模NP、变量维数D、缩放因子F、交叉概率CR、最大迭代代数Gmax。输出:最优个体及其目标函数值。1:输入种群规模、维数和最大进化代数。2:在变量边界内初始化种群并计算适应度。3:执行差分变异。4:执行交叉,得到试验个体5:比较试验个体与父代,保留适应度更优者。6:更新全局最优解,迭代至终止。算法解读:差分向量提供搜索方向,F控制差分扰动强度交叉概率CR控制试验个体继承变异向量的程度贪婪选择保证每代个体质量不劣于父代理解要点:输入包括种群规模、问题维数和最大进化代数。差分向量提供搜索方向,缩放因子控制扰动幅度。交叉把目标个体与变异个体组合为试验个体。选择比较目标个体和试验个体,保留更优者。第2章进化计算计算智能基础理论与应用2.6.3DE变异策略与自适应调节五类经典策略▪DE/rand/1:随机基向量,探索性强▪DE/best/1:以当前最优为基向量,收敛更快▪DE/current-to-best/1:在当前个体与最优个体之间折中参数调节▪F越大,搜索步长越大,探索能力更强▪CR越大,试验个体继承变异向量的信息越多▪自适应F和CR可在全局搜索与局部收敛间动态平衡策略基向量来源搜索特点DE/rand/1随机个体探索性强,适合前期全局搜索DE/best/1当前最优个体收敛快,但容易早熟DE/current-to-best/1当前个体与最优个体折中兼顾当前搜索方向与最优引导DE/rand/2两组差分向量扰动更丰富,适合复杂多峰问题DE/best/2最优个体+两组差分强化收敛,同时保留一定扰动第2章进化计算计算智能基础理论与应用DE关键参数:F、CR与种群规模缩放因子F▪F控制差分向量的放大倍数,直接影响变异步长▪F较大时探索范围广,但可能越过优良区域▪F较小时搜索更稳定,但容易缺少跳出能力交叉概率CR▪CR控制试验个体从变异向量中继承多少分量▪CR较大时新个体差异明显,CR较小时更接近当前个体▪F和CR通常需要结合问题维度、变量尺度和约束强度调节调参思路复杂多峰问题:适当增大NP和F,保留多样性。后期精细收敛:适当降低F,避免大幅震荡。高维问题:通常需要更大的种群规模支撑搜索覆盖。重点:F决定“走多远”,CR决定“变多少”,NP决定“有多少方向同时搜索”。第2章进化计算计算智能基础理论与应用DE与GA的核心差异个体产生方式▪GA主要依靠两个父代之间的片段重组和随机变异▪DE利用多个个体之间的向量差构造搜索方向▪因此DE天然适合连续向量空间中的参数优化选择方式▪DE通常采用父代与试验个体一对一贪婪比较▪这种选择方式简单直接,能稳定保留更优解▪但过强的贪婪性也可能降低种群多样性,需要参数配合对比维度GADE个体表示常见二进制、排列或实数编码主要使用实数向量新个体产生选择、交叉、变异差分变异、交叉、贪婪选择搜索方向依赖父代片段重组和随机扰动由种群中个体差分向量决定选择机制常用轮盘赌、锦标赛等概率选择父代与试验个体一对一比较适用问题离散、组合、编码灵活的问题连续参数优化、黑盒函数优化第2章进化计算计算智能基础理论与应用约束处理与适应度修正惩罚函数▪把违反约束的程度转化为适应度惩罚▪实现简单,但惩罚系数过大或过小都会影响搜索▪适合约束数量较少、违约程度易度量的问题修复与可行性优先▪修复算子把不可行个体拉回可行域▪可行性优先策略先比较是否可行,再比较目标函数▪工程优化中常把惩罚、修复和可行性规则组合使用约束处理的选择逻辑约束简单:优先用惩罚函数,实现成本低。约束结构明确:优先用修复算子,减少无效搜索。可行域很小:优先采用可行性优先,避免不可行解主导选择。第2章进化计算计算智能基础理论与应用五类进化算法的对比主线表示方式▪GA可用二进制或实数编码▪GP使用树形结构表示程序或表达式核心算子▪EP/ES强调变异▪GA强调选择、交叉、变异组合▪DE强调差分变异和贪婪选择适用对象▪GA适合组合优化▪ES/DE适合连续优化▪GP适合结构搜索与符号建模课堂主线:先看问题表示,再看新解如何产生,最后看怎样评价、选择与收敛。算法个体表示主要算子学习重点GA染色体/编码串选择、交叉、变异编码表示与遗传操作EP表现型/实数编码变异、选择不依赖交叉过程ES实数向量与策略参数重组、变异、选择父代/子代规模策略GP树形程序结构选择、交换、突变程序结构的进化表示DE实数向量种群变异、交叉、选择差分向量引导搜索第2章进化计算计算智能基础理论与应用读进化算法时必须抓住的四个问题先问表示▪候选解如何编码?是二进制、实数向量、树结构还是策略参数组合?▪适应度函数如何定义?它是否真正反映目标优化方向?再问算子▪新解如何产生?依靠交叉、变异、差分扰动还是子树替换?▪个体如何保留?是概率选择、竞争池、精英保留还是贪婪选择?▪
先用四问拆算法流程。▪再比较不同算法在每一问上的差异。▪最后回到具体问题,判断哪类算法更合适。课堂使用方式重点:读任何进化算法,都可以按“表示→评价→生成→选择”四步拆解。第2章进化计算计算智能基础理论与应用工程应用中的算法选择连续参数优化▪若变量连续且目标函数不可导,可优先考虑DE、ES或EP▪若需要较强全局探索,可使用DE/rand类策略或大种群设置▪若需要稳定收敛,应加入精英保留或自适应参数调节结构与组合优化▪若问题是排列、选择或路径组合,可使用GA及其离散编码▪若目标是自动生成表达式或程序结构,可使用GP▪关键是让编码方式与问题结构匹配,而不是机械套用算法第2章进化计算计算智能基础理论与应用本章习题1.请描述进化规划的基本流程和特点。2.请解释遗传算法的基本原理,并举例说明其应用。3.进化策略与遗传算法有何不同?4.什么是遗传规划(GP),其与遗传算法的主要区别是什么?5.在进化算法中,选择算子的作用是什么?列举两种常见的选择方法。6.请解释交叉算子的作用,并描述二进制编码的交叉方法。7.变异算子在进化计算中有何重要作用?8.请描述遗传规划中基于树的个体表示法。9.请解释Boltzmann选择算子在遗传算法中的作用及其实现方式。第2章进化计算计算智能基础理论与应用本章小结本章主线▪进化计算以种群并行搜索、适应度评价和进化算子更新为核心▪不同算法之间的根本差别在于个体表示和新个体生成方式▪算法性能取决于探索与开发的动态平衡学习落点▪能比较GA、EP、ES、GP、DE的差异▪能解释选择、交叉、变异、差分扰动和树形操作的作用▪能根据问题类型选择合适的进化计算方法第3章群体智能粒子群、蚁群、蜂群、烟花算法与头脑风暴优化算法第3章群体智能计算智能基础理论与应用目录3.1概念及原理3.1.1基本概念3.1.2基本框架3.2粒子群优化3.2.1算法原理3.2.2算法流程3.2.3连续目标粒子群优化算法3.2.4离散目标粒子群优化算法3.3蚁群算法3.3.1概述3.3.2基本原理3.3.3算法流程3.3.4改进蚁群算法3.3.5混合蚁群算法3.4人工蜂群3.4.1概述3.4.2算法流程3.4.3并行人工蜂群算法3.4.4混合人工蜂群算法3.4.5离散人工蜂群算法3.5烟花算法3.5.1概述3.5.2基本操作3.5.3算法流程3.5.4改进烟花算法3.5.5混合烟花算法3.5.6离散烟花算法3.6头脑风暴3.6.1头脑风暴优化算法原理3.6.2头脑风暴优化算法框架第3章群体智能计算智能基础理论与应用本章学习目标【知识目标】理解群体智能的自组织、协同搜索和分布式反馈机制,掌握PSO、ACO、ABC、FWA、BSO五类算法的核心流程【能力目标】能够解释不同算法如何共享个体经验与群体经验,比较连续优化、离散组合、路径搜索和聚类式搜索的机制差异【素养目标】建立从仿生行为到算法规则的映射思维,能围绕探索、模仿、学习和反馈解释群体智能的适用边界第3章群体智能计算智能基础理论与应用3.1群体智能的科学定义核心定义▪群体智能模拟鸟群、蚁群、蜂群等低等社会性生物的协同行为▪单个个体规则简单,但群体通过局部交互产生全局搜索能力▪算法通常具有去中心化、自组织、鲁棒性和并行性特点共同结构▪个体:表示一个候选解或搜索代理▪共享信息:速度极值、信息素、蜜源质量、火花适应度或想法中心▪更新规则:依据个体经验与群体反馈生成新候选解课堂补充:定义页要落到“个体如何协同、反馈如何形成搜索方向”两点。课堂主线:先看问题表示,再看新解如何产生,最后看怎样评价、选择与收敛。第3章群体智能计算智能基础理论与应用群体智能算法的四个共性分布式个体▪没有单一中心控制所有搜索行为▪每个个体只依据局部状态或共享信息行动正负反馈▪优秀经验被强化,推动群体向优良区域集中▪挥发、侦查、变异等机制削弱过时经验自组织协同▪简单个体通过局部交互形成全局协同行为▪群体在环境扰动下仍能保持鲁棒并行搜索机制落点:
群体智能算法通常通过“分布式个体+信息反馈+随机探索+自组织协同”实现复杂搜索空间中的近似最优求解。随机探索▪随机扰动让算法能发现新的候选区域▪随机性需要被适应度反馈逐步约束第3章群体智能计算智能基础理论与应用探索、模仿、学习与基本流程图3.1群智能算法的探索、模仿和学习图3.2群智能算法基本流程图▪探索负责开辟未知区域,模仿负责共享邻域经验,学习负责利用历史反馈收敛▪基本流程体现初始化、适应度评价、个体更新、群体协同和终止判断第3章群体智能计算智能基础理论与应用3.2粒子群优化(PSO):基本思想粒子的物理含义▪每个粒子代表搜索空间中的一个候选解▪粒子具有位置和速度,并在迭代中移动▪移动方向由自身经验和群体经验共同决定两类最优经验▪pbest:粒子自身历史最好位置,体现个体学习▪gbest:群体历史最好位置,体现社会学习▪PSO的核心是让粒子在自我认知与社会认知之间折中提示:速度公式可拆成惯性项、个体认知项和社会认知项,逐项解释搜索方向来源。补充:PSO的主线是速度合成,惯性保留原方向,认知项和社会项分别提供两类吸引。主线:PSO用速度把个体经验和群体经验合成为搜索方向。第3章群体智能计算智能基础理论与应用PSO运动公式的直观解释速度由三部分组成▪惯性项ωv:保留原运动方向,体现继续探索▪个体认知项c1r1(pbest-x):把粒子拉向自身历史最好位置▪社会认知项c2r2(gbest-x):把粒子拉向群体历史最好位置位置更新▪速度先更新,位置再由x(t+1)=x(t)+v(t+1)得到▪速度过大可能越界或震荡,通常需要速度边界限制▪适应度评价决定pbest与gbest是否被替换参数观察ω偏大强调全局探索,ω偏小强调局部收敛;c1、c2决定个体经验和群体经验的权重。课堂补充:判断PSO变体时看三件事:信息共享范围、惯性权重变化和是否引入额外扰动。课堂主线:先看问题表示,再看新解如何产生,最后看怎样评价、选择与收敛。第3章群体智能计算智能基础理论与应用图3.3粒子更新原理图3.4粒子群算法流程图▪粒子更新由惯性项、自我认知项和社会认知项共同决定▪流程图对应初始化、适应度计算、速度位置更新、个体/全局最优更新第3章群体智能计算智能基础理论与应用算法3.1:PSO算法算法3.1PSO算法输入:粒子数n、学习因子c1和c2、惯性权重ω、最大迭代次数。输出:全局最优位置gbest及其适应度。1:初始化每个粒子的速度和位置2:计算适应度,设置pbest与gbest3:按速度公式更新4:按位置公式更新5:重新评价适应度并更新pbest、gbest6:满足终止条件后输出最优解算法解读:速度公式:位置公式:ω控制惯性,c1控制个体学习,c2控制社会学习更新逻辑:速度更新=惯性保持+个体学习+社会学习。位置更新=当前粒子沿新速度继续移动。若新位置适应度更优,则更新
;若优于全群最优,则更新gbest。第3章群体智能计算智能基础理论与应用PSO参数设置与搜索行为惯性权重ω▪ω较大时保留速度方向,粒子更愿意探索远处区域▪ω较小时粒子移动更谨慎,便于局部收敛▪线性递减权重常用于前期探索、后期开发的平衡学习因子c1、c2▪c1较大时粒子更相信自身经验,群体分散性较强▪c2较大时粒子更追随群体最优,收敛速度更快▪两者过大都可能造成震荡,需要与速度限制配合参数设置倾向搜索行为适用阶段ω较大,c1较大保持原速度并依赖个体经验,探索范围较宽前期全局探索ω较小,c2较大更快靠近群体最优,搜索更集中后期局部开发c1≈c2个体经验与群体经验相对平衡常规参数设置c1或c2过大粒子可能振荡或越界需配合速度限制第3章群体智能计算智能基础理论与应用连续PSO:全局模型、局部模型与惯性权重gBest与lBest▪gBest模型所有粒子共享全局最优,收敛快但容易早熟▪lBest模型只共享邻域最优,探索性更强但收敛速度较慢▪两者体现信息共享范围对搜索行为的影响PSO-W与AWPSO▪PSO-W引入惯性权重ω控制速度保留程度▪线性递减权重让ω从大到小变化,前期强全局、后期强局部▪AWPSO依据粒子适应度与平均适应度f_avg的关系分段调整ω第3章群体智能计算智能基础理论与应用PSO改进模型的讲授主线为什么改进▪标准PSO收敛速度快,但在多峰问题中容易过早聚集▪粒子速度若长期指向同一最优点,多样性会迅速下降▪改进模型通常围绕信息共享范围、惯性权重和扰动机制展开如何改进▪lBest通过邻域最优减弱全局最优的过强吸引▪AWPSO用适应度状态调节权重,区别对待优秀粒子与落后粒子▪离散PSO通过概率映射把连续速度转化为0/1决策第3章群体智能计算智能基础理论与应用离散粒子群(BPSO)离散化思想▪BPSO面向0-1背包等二进制决策问题▪粒子位置不再是连续坐标,而是0或1的状态▪速度不再直接表示位移,而是解释为某维取1的概率倾向更新方式▪速度公式仍保留PSO结构▪通过sigmoid函数把速度映射成概率▪再与随机数比较,决定该维位置取0还是取1提示:速度公式可拆成惯性项、个体认知项和社会认知项,逐项解释搜索方向来源。补充:PSO的主线是速度合成,惯性保留原方向,认知项和社会项分别提供两类吸引。主线:PSO用速度把个体经验和群体经验合成为搜索方向。第3章群体智能计算智能基础理论与应用PSO常见问题与处理早熟收敛▪全局最优一旦被过度追随,粒子会迅速集中▪可采用邻域拓扑、变异扰动或随机重启恢复多样性▪多峰函数中应避免过早减小惯性权重边界与速度控制▪位置越界可采用截断、反弹或随机重置▪速度过大时应设置Vmax,避免粒子飞出有效区域▪边界策略会影响边界最优问题的搜索效果常见现象可能原因处理方式很快收敛但结果不佳gbest被过早追随,群体多样性下降增大初期ω,加入变异扰动或随机重启粒子来回振荡c1、c2偏大,速度更新过猛降低学习因子,设置速度上限Vmax粒子越界频繁搜索步长过大,边界策略不合理采用截断、反弹或重新初始化边界处理后期改进缓慢惯性权重偏大,局部开发不足逐步减小ω,加强对gbest附近的搜索第3章群体智能计算智能基础理论与应用3.3蚁群算法(ACO):仿生背景基本思想▪蚂蚁在路径上释放信息素,后续蚂蚁更倾向选择信息素浓度高的路径▪短路径由于往返更快,信息素积累更容易形成正反馈▪ACO把路径构造过程映射为离散组合优化问题的解构造过程两个反馈▪正反馈:优质路径被更多蚂蚁选择,信息素进一步增强▪负反馈:信息素挥发让旧路径影响逐渐减弱▪两者共同避免算法长期停留在早期偶然路径上提示:ACO一轮迭代可写成:构造路径→评价路径→挥发旧信息素→强化优质路径。补充:ACO的核心是路径构造与信息素更新,正反馈提速,挥发机制防止早期路径垄断。重点:ACO用信息素正反馈强化好路径,用挥发机制防止早熟。第3章群体智能计算智能基础理论与应用3.3.2路径选择概率与信息素更新路径选择▪▪τ表示信息素浓度,η表示启发式信息,通常与距离倒数相关▪α越大越依赖历史经验,β越大越依赖局部启发信息信息素更新▪挥发项削弱旧信息素,防止早期路径永久支配搜索▪增量项强化优秀路径,形成面向优解的正反馈▪更新时机不同,会形成蚁密、蚁量和蚁周等流程差异同一初始种群下调大选择压力,观察最优适应度上升速度与种群多样性下降速度。选择压力要可控,太弱难以收敛,太强会让种群过早变得相似。选择压力决定收敛速度,也决定算法是否过早丢失多样性。第3章群体智能计算智能基础理论与应用ACO构造解的一次迭代路径构造▪每只蚂蚁从起点出发,按概率选择下一个节点▪禁忌表记录已访问节点,防止构造非法路径▪直到完成一条可行路径后,再计算路径质量信息素反馈▪优秀路径获得更多信息素增量,后续蚂蚁更易选择相关边▪挥发机制降低旧路径影响,避免早期偶然路径垄断搜索▪一轮迭代的核心是“构造路径—评价路径—更新信息素”初始化构造路径评价路径信息素挥发信息素增强关键理解:ACO不是一次找到最短路,而是通过多轮“路径构造、质量评价、信息素更新”,让优良路径逐步被强化,劣质路径逐渐失去吸引力。第3章群体智能计算智能基础理论与应用图3.5ACO算法流程图(左:蚁密算法和蚁量算法右:蚁周算法)关键点蚁密和蚁量模型在路径构造过程中进行局部信息素更新。完整路径质量对信息素反馈起主要作用。该流程更强调整体路径评价。蚁周模型在完成完整路径后进行全局信息素更新,更适合静态组合优化二者主要区别在信息素增量的定义方式。流程重点是边走边反馈。关键点第3章群体智能计算智能基础理论与应用改进蚁群与混合蚁群改进蚁群▪精英蚂蚁系统对历史最优路径额外强化▪最大最小蚂蚁系统限制信息素上下界,避免过早收敛▪自适应挥发策略可根据搜索状态调整ρ混合蚁群▪量子蚁群用量子比特概率幅表示信息素状态▪可与局部搜索、遗传算法或模拟退火结合提高解质量▪混合思想的目标是兼顾全局搜索和局部精修ACO参数含义与调节α、β与ρ▪α控制信息素重要性,值越大越
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 护理用品销售客户投诉处理
- 护理沟通中的沟通障碍识别
- 护理职业伦理本土化融合
- 社区残疾人生活补贴申请
- 幼儿园活动设计教案模板
- 护理技术中的急诊护理
- 《暑假查漏巩固|高中语文作文素材积累全单元基础梳理完整教案》
- 语文小达人:材料作文难点攻克指南
- 分级护理中的患者评估
- 国测省测四年级劳动质量检测试卷
- 舆情法制培训课件
- 额敏县生活垃圾热解处理项目环评报告
- 借车试乘试驾协议书
- JJF(新) 139-2024 锅炉散热损失测试规范
- DB33T 1368-2024医院“一站式”综合服务中心建设与服务规范
- (医学书籍)张元素医学全书
- JJF 2154-2024亚低温治疗仪校准规范
- DB14-T 3149-2024 公路机电工程施工监理指南
- 《网络综合布线系统工程技术实训教程》(第5版)练习题汇 王公儒 1-15
- CJ/T 123-2016 给水用钢骨架聚乙烯塑料复合管
- (高清版)JTGT D81-2017 公路交通安全设施设计细则
评论
0/150
提交评论