计算智能复习资料.doc

计算智能晚自习资料1、 给出人工神经元的形式化描述，画出示意图并说明各种符号的意义？如图所示，设ui为构成神经网络的某个神经元的内部状态，i为阈值，xi为输入信号，wij表示从ui到uj连接的权值。si表示外部输入信号（在某些情况下，它可以控制神经元ui，使它保持在某一状态），上述假设可描述为：ixjwij+si-iuif（i）yig（ui）h（i），hgf神经元结构模型符号意义：yi 输出ui状态 xj输入wij连接权2、 叙述人工神经网络处理信息的主要特点？NYNYNY取一学习样本作为输入信号中间层节点输出的计算W和的初始化输出层节点输出的计算输出层节点误差的计算中间层节点误差的计算中间层和输出层间权值的更新，输出层节点阈值更新输入层和中间层间权值的更新，中间层节点阈值更新全部学习样本取完了吗？误差小于下限吗？学习次数到了吗？学习结束（1）、以大规模模拟并行处理为主，而现代数字计算机只是串行离散符号处理。（2）、具有很强的鲁棒性和容错性，善于联想、概括、类化和推广，任何局部的损伤不会影响整体结果。（3）、具有很强的自学能力，系统可以在学习过程中不断完善自己，具有创新特点，这不同于AI中的专家系统，后者只是专家经验的知识库，并不能创新和发展。（4）、神经网络或者是非线性映射或者是大规模自适应非线性动力学系统，具有集体运算的能力，这与本质上是线性系统的现代数字计算机迥然不同。（5）、神经网络不适于高精度的科学计算。3、 按如下要求画出一个前向神经网络示意图：网络有一个隐蔽层，输入层有3个节点，隐蔽层有4个神经元，输出层有2个神经元，用XK表示输入，YK表示输出。x1x2 .xnn（输入层）l（隐层） m（输出层）4、 说明网络共有多少个可以调节的参数。n*l+l*m+l+m可调节的参数的个数如果隐层为2层，则为n*l1+l1*l2+l2*m+l1+m+l25、 回答下列叙述题1） 叙述利用误差反向传播算法（BP算法）训练三层前馈网络的步骤？BP算法是有教师指导的，适合于多层神经网络的学习训练，是建立在梯度下降算法基础上的，主要思想是把学习过程分为2个阶段，第一阶段（信号正向传播过程），输入信号通过输入层经隐层逐层处理并计算每个节点的实际输出值；第二阶段（误差修正反向传播过程），若在输出层未得到期望的输出值，则逐层递归的计算实际输出与期望输出之间的误差，并依据此误差来修正权值。步骤如右图所示：2） 给出基于BP算法的两个应用实例。在书里找？6、 回答一下列问题1) 叙述遗传算法的特点，写出遗传算法的五个基本要素，画出遗传算法的基本流程图？特点：1） 遗传算的法的处理对象不是参数（优化问题的参变量）本身，而是对参数集进行了编码的个体。这种编码操作，使得遗传算法可直接对结构对象进行操作（所谓结构对象泛指集合、序列、矩阵、树、图、链和表等各种一维或高维结构形式）。这一特点使得遗传算法具有广泛的应用领域。2） 遗传算法的基本作用对象是多个可行解的集合，而非单个可行解。它是采用同时处理群体中多个个体的方法，即同时对搜索空间中的多个解进行评估。这一特点使得遗传算法具有较好的全局搜索性能，减少了陷于局优解的可能性。同时这又使得遗传算法本身具有良好的并行性。3） 遗传算法仅用适应度函数值来评估个体，而无须搜索空间的知识或其他辅助信息。遗传算法的适应度函数不仅不受连续可微的约束，而且其定义域可以任意设定。对适应度函数的唯一要求是，对于输入可计算出能够进行比较的输出。遗传算法的这一特点使它的应用范围极大拓宽，使之可广泛应用于目标函数不可微、不连续、非规划、极其复杂或无解析表达式等类优化问题。4） 遗传算法不是采用确定性规则，而是采用概率的变迁规则来指导它的搜索方向。遗传算法执行选择、交叉、变异等类似生物进化过程的简单随机操作，具有极强的鲁棒性。需要指出，遗传算法采用概率仅仅是作为一种工具来引导其搜索过程朝着搜索空间的更优的解区域移动。因此尽管看起来它是一种盲目的搜索方法，但实际上有明确的搜索方向。五个基本要素：1、 参数编码2、初始群体的设定3、适应度函数的设计4、遗传操作设计5、操作参数设定（主要指群体规模以及执行遗传操作的概率等）流程图：编码和初始群体生成样本中个体适应度的检测评估选择交叉变异2) 写出适应度比例选择就去（赌轮选择）的计算机实现步骤。在这种选择机制中，个体每次被选中的概率与其在群体环境中的相对适应度成正比。设群体规模为n，其中第i个个体的适应度为fi，则其被选择的概率为：选择概率Psi反映了第i个个体的适应度在整个群体的个体适应度总和中所占的比例。个体适应度值越大，其被选择的概率就越高，反之亦然。选择过程：（1）、依次累计群体内各个体的适应度，得相应得累计值Si，最后一个累计值为Sn；（2）、在0，Sn区间内产生均匀分布得随机数R；（3）、依次用Si与R相比较，第一个出现Si大于或等于R的个体i被选为选择对象；（4）、重复（2）、（3）直至满足所需要的个体数目。7、 设拟用遗传算法求函数f(x)=X2的最小值，x取0,31内的整数。回答下列问题：1、 写出适应度函数的表达式。答：f(x)=312-x2 或f(x)=1/(x2+1)2、 对如下初始群体(A)和(B)，若仅用选择和交叉操作，是否可能过到最优解？给出相应的分析结论。0 1 1 0 1 0 0 1 0 1 1 0 1 0 0 1 0 1 0 00 0 1 0 0 0 0 1 0 00 0 1 1 0 1 0 0 1 1 答：串编号初始 X值 适应度 选择 适应度 实际 复制后 交叉 新一代 x值 适应度 群体 f(x)= x2 概率 期望值 计算 匹对库 位置 群体123401101 13 169 0.19 0.74 1 01101 4 01000 8 6411000 24 576 0.63 2.54 2 11000 4 11101 9 84101000 8 64 0.07 0.28 0 11000 3 11010 26 67601010 10 100 0.11 0.44 1 01010 3 01000 8 64综合平均最大909 1.00 4.00 1509227 0.25 1.00 377576 0.63 2.54 676通过一代进化使问题得到优化，群体的平均适应度由227改进为377，最大适应度由576增加到676，多次迭代后，最终一定可以得到最优解。只有选择和交叉得不到最优解，*0*不符合11111，因此需将第三位进行变异，变异的作用改变某个基因。8、 试利用部分匹配交叉法分别完成对如下两对个体(A)、(B)的交叉操作，设(A)的交叉点分别取在第3位与每4位之间、第6位与第7位之间，(B)的交叉点分别取在第2位与每3位之间、第5位与第6位之间 8 1 3 | 4 5 2 | 9 6 7 6 8 | 9 5 7 | 4 2 1 3 3 6 5 | 2 7 9 | 1 4 8 9 7 | 8 1 4 | 5 3 2 69、 自行设计一个用遗传算法求解TSP问题的交叉操作方案，并做出解释性说明。答：1、 选择匹配区域 A=1 8 /9 2 6 /3 5 4 7 B=3 7 /5 1 9 /8 4 2 62、 交换匹配区域 A=1 8 /5 1 9 /3 5 4 7 B=3 7 /9 2 6 /8 4 2 65 9 1 2 9 6 3、 区域外相应位置用H标记A=H 8 /5 1 9 /3 H 4 7 B=3 7 /9 2 6 /8 4 H H 4、 A=8519347HH B=3792684HH10、 TSP问题的交叉操作方案之顺序交叉首先选择一个匹配区域A=91|456|7832 B=68|123|9547然后根据匹配区域的映射关系，在其区域外的相应位置标记H，得：A=9H|456|78HH B=H8|123|9HH7再移动匹配区至起点位置，且在其后预留相等于匹配区域得空间（H得数目），然后将其余得码按照相对次序排列在预留区得后面，得到：A=456HHH789 B=123HHH978最后将父串A，B的匹配区域相互交换，并放置到A B的预留区内，即可得到两个子代：A=456123789 B=12345697811、 利用部分匹配法完成求解TSP的交叉排序。278部分匹配交叉（Partially Matched Crossover , PMX）法在PMX操作中，先依据均匀随机分布产生两个位串交叉点，定义这两点之间的区域为一匹配区域，并使用位置交换操作交换两个父串的匹配区域，然后再对两子串匹配区域以外出现的遍历重复，依据匹配区域内的位置映射关系，逐一进行交换。例如：设两父串及匹配区域为：A=91 | 456 | 7832B=68 | 123 | 9547首先交换A和B的两个匹配区域，得到A=91 | 123 | 7832 B=68 | 456 | 9547然后，对于A、B两子串中匹配区域以外出现的遍历重复进行交换。对于A有1 4，25，3 6，于是得：A”=941237865同理可得B”=38456921712、 说明离散型Hopfield模型用于联想记忆的原理？答：合理地选取权系数，使得网络的稳态恰好为联想存储一组状态N，如果网络的初态在N中，则网络的状态将不变；如果不在N中，希望网络所达到的稳定状态为N中与初态Hamming距离最近的稳定状态。13、 离散型网络例子样本的记忆与联想对于n=3de 离散型Hopfield神经网络，设其要求记忆的样本为x1=（1，1，-1）T，x2=（-1，-1，1）T，x3=（1，-1，1）T，（1）计算由外积型设计产生的连接权矩阵；（2）验证这三个样本中那些是网络的稳定点；（3）对输入向量x=（-1，1，-1）T考察网络的联想作用。（选取学习速率系数=1，外部输入）解：（1）按外积型计算连接权矩阵3 1 -1 1W=xi(xi)t-3U=(1)(1,1,-1)+(-1)(-1,-1,1)+(-1)(-,-1,1)-3Ui=1 -1 1 11 1 -1 1 1 -1 1 -1 1 1 0 0 0 1 -1=(1 1 -1)+(1 1 -1)+(-1 1 -1)-3(0 1 0)=(1 0 -3)-1,-1,1 -1-1 1 1 -1 1 0 0 1 -1 -3 0(2)对此矩阵，有sgn（Wx1）=sgn（2，4，-4）T=（1，1，-1）T= x1sgn（Wx2）=sgn（-2，-4，4）T=（-1，-1，1）T= x2sgn（Wx3）=sgn（-2，-2，2）T=（-1，-1，1）T= x2x3即x1和x2是网络的稳定点，x3不是网络的稳定点。（x2和x3的海明距离为1，很相似的样本不能同时成为网络的稳定点）（海明距离：两个向量中对应元素不相同的个数）】（3）对于向量x=（-1，1，-1）T，有sgn（Wx）=sgn（2，2，-2）T=（1，1，-1）T= x1，即x收敛于稳定吸引子x1。注意到x和x1的海明距离为1，x和x2的海明距离为2，可知x按海明距离最小的意义收敛于稳定点。在一般意义下，也可以认为x为x1的受干扰的信息或不完全的信息。在Hopfield网络联想作用下，使信号得到了恢复。14、 结合自己的工作或本课程的学习，试叙述可能应用基于BP算法的前向神经网络模型解决某一实际问题的想法。答：在工作中可以对基于BP神经网络的系统级电源管理算法进行应用。在一个功耗可控的系统中，组件可工作在表征不同性能和功耗水平的各个功耗状态。电源管理策略主要根据系统的历史空闲时段、负载及给定性能指标，决定何时进行组件工作状态