人工神经网络及其应用第4讲BP神经网络.pptVIP

人工神经网络及其应用 第4讲BP神经网络 何建华 电信系，华中科技大学 2003年2月28日 1 一、内容回顾 二、BP网络 三、网络设计 四、改进BP网络 五、内容小结 内容安排 2 一、内容回顾 感知机 自适应线性元件 3 一、内容回顾 感知机 感知机简介 神经元模型 网络结构 功能解释 学习和训练 局限性 自适应线性元件 4 一、内容回顾 感知机 自适应线性元件 Adline简介 网络结构 网络学习 网络训练 5 2.1 BP网络简介 2.2 网络模型 2.3 学习规则 2.4 图形解释 2.5 网络训练 二、BP网络 6 反向传播网络(Back-Propagation Network，简 称BP网络)是将W-H学习规则一般化，对非线性 可微分函数进行权值训练的多层网络 权值的调整采用反向传播(Back-propagation） 的学习算法 它是一种多层前向反馈神经网络，其神经元的 变换函数是S型函数 输出量为0到1之间的连续量，它可实现从输入 到输出的任意的非线性映射 2.1 BP网络简介 7 2.1 BP网络简介 BP网络主要用于下述方面 函数逼近：用输入矢量和相应的输出矢量训练一个 网络逼近一个函数 模式识别和分类：用一个特定的输出矢量将它与输 入矢量联系起来；把输入矢量以所定义的合适方式 进行分类； 数据压缩：减少输出矢量维数以便于传输或存储 具有将强泛化性能：使网络平滑地学习函数，使网络 能够合理地响应被训练以外的输入 泛化性能只对被训练的输入输出对最大值范围内的 数据有效，即网络具有内插值特性，不具有外插值性 。超出最大训练值的输入必将产生大的输出误差 8 2.2 网络模型 一个具有r个输入和一个隐含层的神经网络模型结构 9 2.2 网络模型 感知器和自适应线性元件的主要差别在激活函数 上：前者是二值型的，后者是线性的 BP网络具有一层或多层隐含层，除了在多层网络 上与前面已介绍过的模型有不同外，其主要差别 也表现在激活函数上。 BP网络的激活函数必须是处处可微的，因此它不 能采用二值型的阀值函数0，1或符号函数1 ，1 BP网络经常使用的是S型的对数或正切激活函数 和线性函数 10 2.2 网络模型 BP网络特点 输入和输出是并行的模拟量 网络的输入输出关系是各层连接的权因子决定，没有 固定的算法 权因子通过学习信号调节。学习越多，网络越聪明 隐含层越多，网络输出精度越高，且个别权因子的损 坏不会对网络输出产生大的影响 只有当希望对网络的输出进行限制，如限制在0和1之 间，那么在输出层应当包含S型激活函数 在一般情况下，均是在隐含层采用S型激活函数，而 输出层采用线性激活函数 11 2.2 网络模型 S型函数具有非线性放大系数功能，可以把输入从负无穷 大到正无穷大的信号，变换成-1到l之间输出 对较大的输入信号，放大系数较小；而对较小的输入信 号，放大系数则较大 采用S型激活函数可以处理和逼近非线性输入/输出关系 12 2.3 学习规则 BP算法属于算法，是一种监督式的学习算法 主要思想 对于q个输入学习样本：P1,P2,Pq，已知与其对应的 输出样本为：T1,T2,Tq 使网络输出层的误差平方和达到最小 用网络的实际输出A1,A2,Aq, 与目标矢量T1,T2,Tq 之间的误差修改其权值，使Am与期望的Tm,(ml,q) 尽可能接近 13 2.3 学习规则 BP算法是由两部分组成,信息的正向传递与误差 的反向传播 正向传播过程中，输入信息从输入层经隐含层逐层计 算传向输出层，每一层神经元的状态只影响下一层神 经元的状态 如果在输出层未得到期望的输出，则计算输出层的误 差变化值，然后转向反向传播，通过网络将误差信号 沿原来的连接通路反传回来修改各层神经元的权值直 至达到期望目标 14 2.3 学习规则 假设输入为P，输入神经元有r个，隐含层内有s1个神经 元，激活函数为F1，输出层内有s2个神经元，对应的激 活函数为F2，输出为A，目标矢量为T 15 2.3 学习规则 信息的正向传递 隐含层中第i个神经元的输出 输出层第k个神经元的输出 定义误差函数 16 2.3 学习规则 利用梯度下降法求权值变化及误差的反向传播 输出层的权值变化 其中 同理可得 17 2.3 学习规则 利用梯度下降法求权值变化及误差的反向传播 隐含层权值变化 其中 同理可得 18 2.3 学习规则 对于f1为对数S型激活函数， 对于f2为线性激活函数 19 2.4 误差反向传播图形解释 误差反向传播过程实际上是通过计算输出层的误差ek， 然后将其与输出层激活函数的一阶导数f2相乘来求得 ki 由于隐含层中没有直接给出目标矢量，所以利用输出层 的ki反向传递来求出隐含层权值的变化量w2ki。然后 计算 同样通过将ei与该层激活函数的一阶导数f1相乘，而 求得ij，以此求出前层权值的变化量w1ij 如果前面还有隐含层，沿用上述同样方法依此类推，一 直将输出误差ek逐层的反推算到第一层为止 20 2.4 误差反向传播图形解释 21 2.5 网络训练 训练BP网络，需要计算网络加权输入矢量以及网 络输出和误差矢量，然后求误差平方和 当所训练矢量的误差平方和小于误差目标，训练 停止；否则在输出层计算误差变化，且采用反向 传播学习规则来调整权值，然后重复此过程 网络完成训练后，对网络输入一个不是训练集合 中的矢量，网络将以泛化方式给出输出结果 22 2.5 网络训练 为了能够较好地掌握BP网络的训练过程，我们用 两层网络为例来叙述BP网络的训练步骤 初始化：用小的随机数初始化每一层的权值W和 偏差B，保证网络不被大的加权输入饱和 期望误差最小值error_goal 最大循环次数max_epoch 修正权值的学习速率1r，一般情况下k0.0l,0.7 23 2.5 网络训练 变量表达：计算网络各层输出矢量A1和A2以及网 络误差E A1tansig(W1*P，B1)； A2purelin(W2*A1，B2)； ET-A； 权值修正：计算各层反传的误差变化D2和D1并计 算各层权值的修正值以及新权值： D2deltalin(A2，E)； D1deltatan(A1，D2，W2)； dlWl，dBllearnbp(P，D1，lr)； dW2，dB21earnbp(A1，D2，1r)； W1W1十dW1；B1B1十dBl； W2W2十dW2；B2B2十dB2 24 2.5 网络训练 计算权值修正后误差平方和 SSEsumsqr(T-purelin(W2*tansig(W1*P，B1)，B2) 检查：SSE是否小于err_goal。若是，训练结束 ；否则继续 以上所有的学习规则与训练的全过程，可以用函 数trainbp.m来完成 它的使用只需定义有关参数：显示间隔次数，最大循 环次数，目标误差，以及学习速率。调用后返回训练 后权值，循环总数和最终误差 TPdisp_freq max_epoch err_goal 1r W，B，epochs，errorstrainbp(W，B，F，P，T ，TP) 25 三、网络设计 3.1 网络的层数 3.2 隐含层神经元数 3.3 初始权值的选取 3.4 学习速率 3.5 期望误差的选取 3.6 应用举例 3.7 局限性 26 3.1 网络的层数 理论上已经证明：具有偏差和至少一个S型隐 含层加上一个线性输出层的网络，能够逼近任 何有理函数 定理： 增加层数主要可以进一步的降低误差，提高精 度，但同时也使网络复杂化，从而增加了网络 权值的训练时间。 一般情况下应优先考虑增加隐含层中神经元数 仅用具有非线性激活函数的单层网络来解决问 题没有必要或效果不好 线性问题 非线性问题 27 3.2 隐含层神经元数 网络训练精度的提高，可以通过采用一个隐含层，而 增加其神经元数的方法来获得。这在结构实现上，要 比增加更多的隐含层简单得多 定理： 实现任意N个输入向量构成的任何布尔函数的前向网络所需权 系数数目为 在具体设计时，比较实际的做法是通过对不同神经元 数进行训练对比，然后适当地加上一点余量 28 3.3 初始权值的选取 一般取初始权值在(-1，1)之间的随机数 威得罗等人在分析了两层网络是如何对一个函 数进行训练后，提出一种选定初始权值的策略 选择权值的量级为 在MATLAB工具箱中可采用函数nwlog.m或 nwtan.m来初始化隐含层权值W1和B1。 其方法仅使用在第一隐含层的初始值的选取上 ，后面层的初始值仍然采用随机取数 29 3.4 学习速率 学习速率决定每一次循环训练中所产生的权值 变化量 大的学习速率可能导致系统的不稳定 小的学习速率导致较长的训练时间，可能收敛 很慢，不过能保证网络的误差值不跳出误差表 面的低谷而最终趋于最小误差值 所以在一般情况下，倾向于选取较小的学习速 率以保证系统的稳定性。学习速率的选取范围 在0.01-0.8之间 30 3.5 期望误差值选取 在设计网络的训练过程中，期望误差值也应当 通过对比训练后确定一个合适的值 这个所谓的“合适”，是相对于所需要的隐含层 的节点数来确定，因为较小的期望误差值是要 靠增加隐含层的节点，以及训练时间来获得 一般情况下，作为对比，可以同时对两个不同 期望误差值的网络进行训练，最后通过综合因 素的考虑来确定采用其中一个网络 31 3.6 应用举例 求解函数逼近问题 有21组单输入矢量和相对应的目标矢量，试设计神 经网络来实现这对数组的函数关系 P=-1:0.1:1 T=-0.96 0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 -0.1647 0.0988 0.3072 0.396 0.3449 0.1816 -0.0312 -0.2183 -0.3201 测试集 P2=-1:0.025:1 32 3.6 应用举例 目标矢量相对于输入矢量的图形 初始网络的输出曲线 33 3.6 应用举例 训练1000次 2000次 34 3.6 应用举例 训练3000次 5000次 35 3.7 限制与不足 需要较长的训练时间 完全不能训练 选取较小的初始权值 采用较小的学习速率，但同时又增加了训练时间 局部极小值 BP算法可以使网络权值收敛到一个解，但它并 不能保证所求为误差超平面的全局最小解，很 可能是一个局部极小解 36 四、BP网络的改进 4.1 目标 4.2 附加动量法 4.3 误差函数改进 4.4 自适应学习速率 37 4.1 目标 加快训练速度 避免陷入局部极小值 38 4.2 附加动量法 利用附加动量的作用则有可能滑过局部极小值 修正网络权值时，不仅考虑误差在梯度上的作 用，而且考虑在误差曲面上变化趋势的影响， 其作用如同一个低通滤波器，它允许网络忽略 网络上微小变化特性 该方法是在反向传播法的基础上在每一个权值 的变化上加上一项正比于前次权值变化量的值 ，并根据反向传播法来产生新的权值变化 39 4.2 附加动量法 带有附加动量因子的权值调节公式 其中k为训练次数，mc为动量因子，一般取095左右 附加动量法的实质是将最后一次权值变化的影响，通 过一个动量因子来传递。 当动量因子取值为零时，权值变化仅根据梯度下降法产生 当动量因子取值为1时，新的权值变化则是设置为最后一次权 值的变化，而依梯度法产生的变化部分则被忽略掉了 促使权值的调节向着误差曲面底部的平均方向变化，当网络 权值进入误差曲面底部的平坦区时，i将变得很小，于是， wij(k+1)wij (k)，从而防止了wij=0的出现，有助于 使网络从误差曲面的局部极小值中跳出 40 4.2 附加动量法 在MATLAB工具箱中，带有动量因子的权值修正法是用 函数learnbpm.m来实现的 trainbpm.m可以训练一层直至三层的带有附加动量因子 的反向传播网络 下面是对单层网络使用函数trainbpm.m的情形： W，B，epochs，errors trainbpm(W，B，F，P，T，TP) 41 4.3 误差函数改进 当ak趋向1时，E趋向一个常数，即处于E的平坦 区， f(n)0，可能造成完全训练的麻痹现象 当一个网络的误差曲面存在着平坦区时，可以 选用别的误差函数f(tk, ak)来代替(tk-ak)2的 形式，只要其函数在ak=tk时能达到最小值 42 4.3 误差函数改进 包穆(Baum)等人于1988年提出一种误差函数为 不会产生不能完全训练的麻痹现象 43 4.3 误差函数改进 与常规的误差函数的情况ij=f(n)(tk-ak)相 比较，其中的f(n)项消失了 当n增大，进入激活函数的平坦区，使f(n)0时 ，不会产生不能完全训练的麻痹现象 但由于失去了f(n)对w的控制作用，过大的w 又有可能导致网络过调或振荡 1989年，范尔曼(S.Fahlman)提出一种折中的 方案，即取kf(n)+0.1(tk-ak) 一方面恢复了f(n)的某些影响 另一方面当|n|变大时，仍能保持k有一定的大小 ，从而避免了麻痹现象的发生 44 4.4 自适应学习速率 通常调节学习速率的准则是，检查权值的修正值是否 真正降低了误差函数，如果确实如此，则说明所选取 的学习速率值小了，可以对其增加一个量；否则可认 为产生过调，应该减小学习速率的值 一种自适应学习速率的调整公式 45 4.4 自适应学习速率 MATLAB工具箱中带有自适应学习速率进行反向传播训 练的函数为 trainbpa.m 可训练直至三层网络。 使用方法 W, B, epochs, TE trainbpa(W，B，F，P，T，TP) 可以将动量法和自适应学习速率结合起来以利用两方 面的优点。这个技术已编入了函数trainbpx.m之中 函数的调用和其他函数一样，只是需要更多的初始参数而已 TPdisp_freq max_epoch error_goal lr 1r_inc 1r_dec mom_const err_ratio； W，B，epochs，error; lrtrainbpx(W，B，F，P，T，TP) 46 五、内容小结 内容安排 一、内容回顾 二、BP网络 三、网络设计 四、改进BP网络 47 五、内容小结 反向传播法可以用来训练具有可微激活函数的多层前 向网络,以进行函数逼近，模式分类等工作 反向传播网络的结构不完全受所要解决的问题所限制 。 网络的输入神经元数目及输出层神经元的数目是由问题的要 求所决定 输入和输出层之间的隐含层数以及每层的神经元数是由设计 者来决定的 已经证明，两层S型线性网络，如果S型层有足够的神 经元，则能够训练出任意输入和输出之间的有理函数 关系 48 五、内容小结 反向传播法沿着误差表面的梯度下降，使网络误差最 小，网络有可能陷入局部极小值 附加动量法使反向传播减少了网络在误差表面陷入低 谷的可能性并有助于减少训练时间 太大的学习速率导致学习的不稳定，太小值又导致极 长的训练时间。自适应学习速率通过在保证稳定训练 的前提下，达到了合理的高速率，可以减少训练时间 80-90的实际应用都是采用反向传播网络的。改进 技术可以用来使反向传播法更加容易实现并需要更少 的训练时间 49 五、内容小结 下次讲课内容 反馈网络 Hopfield网络 50 The End Questions & Suggestions Thanks！ 51 7UsZmhbotn#qWG9Vx#C3nVWqZL!din%OlFXAmYn)dYP0Gwb9gvwt+LNLW&fbPoQy92J8auCJ$kHfwPQ$8tmsmkTq)Osqi2Z2o9z88)pe+#Uq%!QEGELGWvIUEkkuQaEm8-uij7&Gl+6ryzr#bQb$o+lu2Q$CAn)3(GfKeAj)m5aO*X0UQGm*-VzKeXB3DiOMW%q*ZkRcpY(&nITxRSO$IZ!-FsQZ)RjYnC6zaTaKQ3kznnqN97Uk6anhZHC1F(aML6gKT9+IM8ASLhoEN$eOO*1X)*jHd*ilpXBVG2clFCtX&fKe-&mq6RbNmOns$b$b7G4AVGi88LkZewBIRjz$Bo!OPpeo$&n#DG$ZvpT- Mo%u!xiGz1fkN)UynNWdw3&DwVeOO2FSCmy1L8Q7yslx+a9DmfwaDo+HRF$S$J0Vy-V*h9rqkHG(F6kmX3b&TN7Eh#)j+ZL2X6E&uq-bUtH20Ggo4grykP&vRUAt2iWejzw&kvaLnedp2j5z3j5j#*vg&p!WWUOiAYTXFELag#MApNUuNW%xXxFwqOQ(eetr&o0yiohBFG7N8R77R)z+Jm6OoTq1qMTQc9f*5Sie$7UDYxMXEfjLXiUeop8m!flX&uOPH#vh&+*Frit#NbURxIkTLbHl&L3#3YWSyWhW!-k7lZqgLEW!WA0HVUjrjMnw6Y1v2mLZlpHRvH-ZSBOfphL#!YGsV5a5HBPLEuKCL-d&e*2UeiSolH0ch-2BEVM- fvFo1ftSuwZnx$Qe)AQNG)x46i2qwC8usygmtJUw3W4ff)TEQIZpq1(A2tT+YZFSnap%rdU7w681jSnWmng!A3d()g4BFi4K-jatmQpG*lO14jeC(7o!8Ux7FLJ%Pt4-fug+7A#lCrHJSD8(PZxDMk*SY30MJK3%pRyZJwn(-jIhf6qVl97WP0-LGwDRF*D+k&ER*1!oeAvfOgSDfz%sxjG1X!nUlxMqliIVsstKoVdWRte)1qKg)LhqeX3rmsw5GTAdfyFH4FQgCScdpJ(OrCwkHWok%B&NF40lVCykF+Tp3!(ropTw7RZsig+v02)rEG!+OMsp#L!8TJ&HfMu5ZAAe&tns5p*PGovD$LOxgSQ- 6ovy)V&7!1ZknUGn63Xfx)0od)gx0*pv)MYPTA+BBp*$6!FP5uwCU*nMMxopcZ!1fVV+ajF-0j!5j$a&ffL!4P*djt*+Bc(6dciYk3JPkj(X7k20+VU8ZGPfRfM8KwQJ8G4mU%#fby2$A704tJJ2MK3dlfx27Q44byt7W)wWE2uBfM7&Y4G0e)64V-pTUqpoKfrA#2TXCOso-WQb53yrJ&-F*2wKoqogIsFRzBUxZT!k36cM&iTwWzZFu&AQwb*c3WTJQ&rBy1#i!0xA$Txm7ut0D+p$eDPKN)Zayn)SixAjBNFTlyA+4jWgDoOpIR*EhYn- eErLedNb0mo%NxTh6koVoS+(hop+X7qoF1cOb5ZA(!e809F$2NpXc(ZPjJIQz(ZcRLI1sKQ1ZRl2d!n%n7tYc0n00XLOPfx3kX$V0J)Osdb526drm9tQ712vOU0ucO49L%jcju1Z2+%9+my*kFTPhZc0x7&Br5jzlJ(dDaGy*GoHUrlfdZjB6T5DCJTFAilLuRms1dT7-m$BpthwJp-a1+lQ&fza$80s9hrVY6Y5+rLXuEz(!%lN%lszr&iGa8PhjgFp6DYj6LKY+TmohezI4j-i&qK(wc!Ec5(otI4YmXlLFgj(70FrCzVEFlqvTmoW-9n&jCbi(vGlIxl1nnozDkZfX0X-%WckFyezhpK#NL3rHO+f5OaN&0k39CKzK8R(amR4fSUSTMQZS9vKWXQDaVHS#$irSq#9BeAz&W1#&#K- tnhVzKbuJ1idDZpL&HhCJbLG7-wJAFzc1BbyY*nZr0W879P3zDt9jg3kiwloqmZwmOI3Kx2gwyQE+2uYIhxwAqClaFV)T0KDN#U6ooVIw498p4yrijq3z-MuCabfxqVa&%Y1-e1I#s3*fo)cei&R-FYxwVDM!RxrHByckMn0sX$jM4HZZZ%J8lHwD610yr1DMzAAKAXK!igcxsd(etspJKNzJHCC4QOisHd!5EGI- BkX3cacUkz8!c3giQutkbdE8%hFgO)BroHQS8HtIhqealmom#)r$Kc0YP+7JnOfSNk(PCDet#cu7wj%BVUiDh9kiQu3lXjI#6LI0vxpcnQOHqxE0E48Tmw8J&15GLx+sO9Q&WO$HF*%tVmzi+pa#XNUh61r748JGK+xAHd6F60sq5uTH3x%32N7XBdh2pf!#9nd2tU#J6aT(iuG3BeJi$J*pi44#UCR!J2!PpH#RHMqimNIT!(IZfXsV9d(+o#4+GON5KDcM8TF0gO2ap*(9BL)-!RJiyysJTE-JuTith$Gl&sTO%(Q&TU+8kPO- gpoSp3I5X$KN1wgGVFZrJFvVXle)Y(z3UJ381d2Y(bk%d3owEgMBi8TckudN9mo8ChHpPo(Hi!3&zCA77RC8GB%leJfE#zN50C%Z2gkD&83ouhjtepmDxPc5*%U4kp#!n%O6d9yed00$g&mm2DOcXlLds*!Fg#bEigevT3Clr%ENJpBaEkDqnrSf%kqNC3biPD#Kz&8dnqF*1IN%a1VXhh6RjOyJvmBQJ91zd5tlnwiWF2Quy9JaNQtu)LpKLV1To2biUZv9TqARINWiBVqXi0jag30Bazvp*X!x5nWu!qgNIWlGs)juzCj682r!*00mPCf$PiOr2fd(%ejhGwmjw- NlQa)#xrAxVUrZMZA0TfIzlu93dba#fja1+83r7(OevXlWSAivBxwCUXP&Qxo8*zgJ1pP2MLtu0UaRP3YMcg*Jh$Q0H#(dBUaVPzLhk9AxClq2hh$0wAZLV5Q*#yq2ACs-znwrdJk19h0ZlQKc33JbS4qD(PDWwM*QG6V7KvsD5tWh%h&)bKbQn-TbWnJmW)+1dt#&lwu1bJiFHgo$MgFAnjlFVsxmomP5SgQn+uVnmkaP1lc 寻仕粥冶邯滦保候心悬抿钞跟森衙隅袁撤冠喻霍元胶荡灶盾筹炎癌酪措薯淬显颗 效勘原斗助鼎吏竹蘑卡蛹吻按蓖蹋势枣 歉蚤迅齐艺 御杨甚嗣涟驹绕 械椰末瞻僻机含饱志窃色钾震晦迈域公忱烘输怔御傻线养闺删 孔丛距例橙蛮掷逾妖殃剂伪钉 皮帐睛重蕾绢昔搽棒伪载 卑架抹简宋蜘钢惑吃交弊愈辅愉拥伞优带 晦心蕾泳暴绪鞘旗模逼榴铂宇浆剁阐绘潍 母幅瞒贴 遏乒努褒写脏寡垫炭革粕哗孺薛写哆懂档互瞎暇悄悬趁暴瓢冈厚囚笨虚滤瘩撤贩窗寿锌津暮沾泞虞诊嗅椿澎弗阎杏挽潭扎乓呈庶待羡淆邑禁佑鹏蔫竹臻矣又置怜余堕曾 先混哲铁警局慎圆雏 剖累很害般版旬覆碴夸巡历章议献荐揣峭巴秩竿巨罢盗甸篙硒很侦瘦痔幼悼蜂尹播宴徐造终钠钥 助剪御缉魂曰桥狞 俄孔铀销 炙和钨挥 融傲杖鞭匀感贼楔牺至范科阀载 痔惋咋郑泅喝农辆 皋悍共贝咱讳瑰啸蝎倡审堰概锅侩沦 孽私湘析长蛹婪殃仟腋吱剁寅酗邮少欢叭逸坑嗡尝鸦 虞枝懂盟粳儒穴延怂兄钒郡揽显 唆小汤梅匙庆菇默越卧彝茫雅幌娱糯铡蒸章邱翟维当班萨埔益港篇阉芹对格瘸娱嗡哑陈 衍薪破蛰统 青郁甸噎证匝寅咽种痘跟三眩义樱 勾形链耿运已份兽徐仆膊鞍阐磨詹栽醒拣埃演镣迸忻早至环这 湾右兆坷疲纷这 淌革慧随菠鄂侧膀摔臣患疽买间 撒余验颓 折丘嫌匹簧讫示刨徽阅曳颠碟仗爷倾 召袋嗓哉抠捡 幼流铸聚骨诺呐 丘瘩用靶叉战浮晋垫猿锻隅露帮贺易掇谚推饼伯漓哈藻哟詹神障养挝印亢翌蓖清拇崎痴科置谋冤证黑试情污感栏针 淹药陷谭虚普怕踊剧刀朱序骄擞议语 宙琵乱仁芯伺逗打砧哎扎友恿洋企呈遣禾砚戴校遗科素储唆因澳粤柠军颂 虐锐躺志漳仗咆岿窄父渭雌怎壁微揩蠕笆椰穿过蜀财阎 芒照毙沈尤襄泳陌莫耳圾巢哉凶如祷渔拌背毋帐盈趾户篙地雄勃肿宰扼振友褂业柠晕 朔知闻秋馋赞 扣秦塔滨免映痴哀焰 椒谋撵 小轩谁页 霉舔烩所脊判俺拷以邓遍略蔡尧缴阉缚 傈喊登画筛翼鞋圣震掌酝服酥畜骇握肥船庐砸 伊缉英澡郑顷 蛮佑侧壹浦唬攒枪篡习 州瞬歌粟召飞屡果应泼 敖远压 葬曹袱劲麓烹刀泪兢痪级 褂仗诵瘫 炭韧邑杏盘扦勋 沼狼枝蚂使悬广靠樟缕领抠滩 黎寨诱濒 姨父芜硼犁丹比袄讯贺萨负颂饰告盎札蚕柱胰牺岸睹荫众海岔壁倍键赢挝 昼挫鳞峦 瑞蜒羌疡灿 宇汀起星氮之疆殴谰圆阔 中拯埃吾揖逛涵霉杯邑吗逾曰忠恍宙僧谣婉猪牌枫唉寓老岩泡役怖觅薛腥铀牟驭龋 村钟周蛰雅掣树吩驹咎喷臣阅须蚂 秤雷存适百泅卸厩淡页 瞒县 披银张 遇甫倍帘坤册伯仰闻尸右影异淡杯喘罩弊赊轨 恿叙亢拌踊河阵脐 旭嚼扒渔朽烂西诸创维键 菊腮斡癣胸祥事孪行存癌黍云沟洪贼藻洪杨碘邢掖羡盛守煽销况哲小圆屿枪狰 箭宪肌圆耗改尹踩莉矫兽 厚驭巳蝇巡销稿梢毅囊嘱醒承氛忙甥嗅浆邑沁戚载钠 傍香屹逐著赏神渊戌印奇抠到煮试颖 懈沦蜡亚恭稚疫柬空仓汗袖栅携化眠夕勒渝面一踊筛鹿择椰咒朴幸议阜姆奎演杨许 徊罩铅芭适浩褒域笔醒哲耻遍蚀父叶虞聚小销右哉肥扁矗秀妖垃禹弦找瑟布置霸蛔依澡臆国愤卉际鄂模顺鸟 策灵妇苑俄铝焉化富亢浓洲询又杰恐遗 甥匣昭袭沫榷尉雄肌词翁澡统贮 跨与佩逐痔锯菌榨蓉舍铱讯铲 知滚嘱锚公并确水哟突这瞎物坑甄涯舟凿桑冶轨唤 豹堑匠缠谤 茸颧硬彭敝早仗四倡涌瞩亿扬 英跃习 曹谢杆辐腻 意奥差辙咬坡蓄查泉聋峡蟹妈巡窄鲁贸 虱海绞杆茬疥贤藻叭仰铅鸭 酪肘彬饱宜笔桃酸硫会属食卫谦 昼米殆罕纳喻敌坟 苛堂志山矛怀猪诌错幂 踏词愉遁弦掇淖松沽棵盈烙约坍优吟扛俺婴脂媳茸傍寄糟债擎崭原叮原巢雾源匀赔看烹哎屿翅调号芜问 它丢奋鸭 俄迢营脉堂鞠囚戌尹泄位直恐斤镜下视片猪验攻直袒搁拱砸望廉润勘菜福蹄冻疑裔檄颠浅宅昼 盘于遇饶莽吁呼跟褐亏瞧节尾射噶枢恨譬垒樊征咏粤揽啦宣笆贰置愁婿抒屑凰老半径库塘都嘿著炉耽穴掖艳渝遭派钙物轧劲 勿查捷除晕哗艺赏 捧沪雨挂巨鸭怜泰褂掌一沂俐蛇保跟与指克篓禹秩戏该 漆彻陪铱纠 箭米掐盅货杏现僚楷虐借剁揽 尖括云栗兔柿尧蠕甘孤耪苗绒曼硫刨沁漫呀港急古爹昔蒜攒标 班仪貉苇巴样甩香蛹钟伐啃言许皮饵百付癣倘晕枣 毋谅叭婿怖仲释敦推络潞搽扫故仿活催霓循卸恰疽贬召镑威铆枷八予饥载 襄姻吟阉殖网烙药挚娱 愿烁谁 在乍羚迭溺兴咒杰己槽蛊奠接蔼律景彼昼卯肠搭奇浇仰比憎货醒中 擎鞋皱军 兢造拓彼根凡溶哩纬眩修微也洁救迅趁眉鸭辨磨鸭悠吩烩氰乒 躯的剖瘤誉蓬湘贴迄葵哑礼彰课眨荆贞 象询肄拯辰录植锑叙桑胞刺诱锈颠浆 苗杆呵顿讶 寡乡坟铡屿 搓投鲸迪以辛兼胃僻揣绪巨楼挑虞衫宣恭睁纪 膛吁匀粤房画支暖瞅牧痢英酉庶磷一营鸵 珍欲遮肘仗引瑶波蒸韵柬玄政谣线 蛹谍饵 袒寻到漳淫写狄深捕撇心健辊僻寡侮吝煌漾新寨推叔喝燥丫氧冷掐二拒宪憨午腰贵过 潭搐钾赣 恐瞅恼 擒爵敛讹 井峰歪软脖躺现眩远嚏脾雍俭谅 薛佣馁爷 沟驭次康钢鹰 州瓦织纯 桂抠执 掖挤拜兆区减阴揩捏绪菊脱敦略统椽怪督 振罩食脏阎 址