（检测技术与自动化装置专业论文）软测量技术在发酵过程中的应用.pdf

摘要 发酵过程是极其复杂的生物化学反应过程，具有高度非线性和不确定性， 过程的重要变量如生物质浓度难以实现在线测量，离线分析导致测量滞后，难 以扶得令人满意的控制性能。近年来，由于人工神经网络的自适应能力和对非 线性函数的强大的逼近能力，使得神经网络在系统建模中的应用越来越，“泛， 而传统的网络基函数的性质却又限制了神经网络的性能。小波变换是一利t 比傅 立n t 变换更加灵活的信号处理工具，其灵活性、有效性和厂泛的实川性使其得 到越来越广泛的应用。本文将小波理论与神经网络相结合，综合：二者的优越性， 对小波网络建模方法进行了研究，并将其应用于生化过程的建模和软测量r _ | = i o 第一，综合现有文献，概括总结了软测量技术、小波变换及人工神经网络 的发展和现状，介绍了软测量技术、小波分析和小波神经网络的基 本含义，简要叙述了发酵过程的建模方法和软测量技术在发酵过程 中的应用。 第二，本文首先对几种典型混合网络建模结构进行了比较分析，研究了 种广义混合神经网络建模结构，并通过仿真实验，验证了其结构具 有比传统的混合网络结构更强的泛化能力、更高的精度和更强的通 用性。 第三，研究了小波神经网络建模方法，对于三种类型的小波网络进行了对 比实验和分析，并将小波网络用于对实际生化过程的建模。实验结 果证明该方法简单易行，精确度高。 第四，介绍了青霉素发酵过程工艺及过程特点，根据可在线测量过程变量 二氧化碳释放率c e r ，应用第二章提出的，一义混合神经网络建模方 法，测量发酵过程的生物质浓度。仿真结果表明，该方法准确有效。 关键 司发酵过程软测量技术建模小波变换小波神经网络生物质浓度 1 a b s t r a c t f e r m e n t a t i o np r o c e s si sak i n do fc o m p l e xb i o c h e m i c a lr e a c t i o na n do fh i g h n o n l i n e a r i t ya n du n c e r t a i n t y s o m ei m p o r t a n tp r o c e s sv a r i a b l e ss u c ha sm i c r o b e c o n c e n t r a t i o nc a nn o tb em e a s u r e do n l i n ew h o s eo f f l i n e a n a l y s i sw i l l r e s u l ti n m e a s u r e m e n tl a g ，s ow ec a nn o tg e ts a t i s f i e dc o n t r o lp e r f o r m a n c e i nr e c e n ty e a r s a r t i f i c i a ln e u r a ln e t w o r k s h a v e b e e nu s e dn l o r e b r o a d l y i n s y s t e mm o d e l i n g b e c a u s eo ft h e i ra d a p t i v ea n dp o w e r f u lf u n c t i o n a p p r o a c h i n ga b i l i t i e s b u tt h e t r a d i t i o n a lb a s i sf u n c t i o no fn e u r a ln e t w o r k sh a sc o n f i n e dt h e p e r f o r m a n c eo f n e t w o r k s w h i l ew a v e l e tt r a n s f o r mi sam o r ef l e x i b l et o o l d e a l i n g w i t hs i g n a l s t h a nf o u r i e rt r a n s f o r m ，a n di t sf l e x i b i l i t y ，v a l i d i t ya n d p r a c t i c a l i t ym a k e i tb eu s e d m o r eb r o a d l y i nt h i sp a p e r ，w ec o m b i n et h ew a v e l e t t h e o r yw i t hn e u r a ln e t w o r k s a n ds y n t h e s i z et h ed i s a d v a n t a g eo f t h e m ，t h e ns t u d yt h em e t h o do f m o d e l i n gw i t h w a v e l e tn e t w o r k s f i r s t ，t h e d e v e l o p m e n t a n da c t u a l i t i e so f s o f t s e n s i n gt e c h n o l o g y ，w a v e l e t t r a n s f o r ma n da r t i f i c i a ln e u r a ln e t w o r k sa r es u m m e d u po nt h ee x i s t i n gl e c t u r e s a n dt h e i rb a s e m e a n i n g sa r ei n t r o d u c e d t h em e t h o d so ff e r m e n t a t i o nm o d e l i n g a n du s eo f s o f t s e n s i n gt e c h n o l o g yi nt h ep r o c e s sa r eb r i e f l yr e c o u n t e d s e c o n d ，w ew i l ls t u d ys e v e r a lh y b r i dn e u r a ln e t w o r km o d e l i n gs t r u c t u r e sf o r f e r m e n t a t i o n ，s u c ha ss e r i e s ，p a r a l l e l ，s e r i e s p a r a l l e ls t r u c t u r e t h e nw ew i l ls t u d y ag e n e r a lh y b r i dn e u r a ln e t w o r km o d e l i n gs t r u c t u r ea n ds i m u l i n kt h e s em e t h o d s f r o mt h es i m u l i n k r e s u l t s ，w em a yf i n dt h a tt h eg e n e r a ls t r u c t u r eh a sm o r e g e n e r a l i z a t i o na b i l i t y ，h i g h e rp r e c i s i o na n dm o r ec o m m o n c u r r e n c y t h a nt h e t r a d i t i o n a lh y b r i dn e u r a ln e t w o r k m o d e l i n gs t r u c t u r e s ； 7 f h i r d ，w ew i l ls t u d yt h em e t h o do f m o d e l i n g w i t hw a v e l e tn e u r a ln e t w o r k s ，t h e n 1 1 c o m p a r ea n da n a l y z e t h r e ek i n d so fw a v e l e tn e t w o r k s a n dw ew i l lu s et h em e t h o d nr e a lb i o c h e m i c a lp r o c e s sm o d e l i n g t h ee x p e r i m e n ts h o w st h a ti tc a nb ee a s i l y d o n ea n dh a sh i g hp r e c i s i o n ； f o u r ，t h et e c h n i c sa n df e a t u r e so f p e n i c i l l i nf e r m e n t a t i o np r o c e s sa r ei n t r o d u c e d 7 t h ep r o c e s sm i c r o b ec o n c e n t r a t i o ni sm e a s u r e db yf lg e n e r a lh y b r i dn e u r a ln e t w o r k u s i n gc e rw h i c hc a nb em e a s u r e do n l i n e t h es i m u l i n kr e s u l t s s h o wt h a tt h e m e t h o di se x a c ta n de f f i c i e n t k e y w o r d s ：f e r m e n t a t i o n p r o c e s s ，s o f t s e n s i n gt e c h n i q u e ，m o d e l i n g ， w a v e l e tt r a n s f o r m ，w a v e l e tn e u r a ln e t w o r k ，m i c r o b ec o n c e n t r a t i o n l l i - 原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下， 独立进行研究所取得的成果。除文中已经注明引用的内容外，本论 文不包含任何其他个人或集体已经发表或撰写过的科研成果。对本 文的研究作出重要贡献的个人和集体，均已在文中以明确方式标 明。本人完全意识到本声明的法律责任由本人承担。 论文作者签名：高丞超日期： 2 0 0 3 5 2 0 关于学位论文使用授权的声明 本人完全了解山东大学有关保留、使用学位论文的规定，同意学校保留或向 圉家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅：本 人授权ij i 东火学可以将本学位论文的全部或部分内容编入有关数据库进行检 索，可以采用影印、缩印或其他复制手段保存论文和汇编本学位论文。 ( 保密论文在解密后应遵守此规定) 论文作者签名：函盘丝导师签名：z2 j 互：i ! 日 期：2 q q 3 二5 2 0 符号说明 e 。，一发酵液中溶解的二氧化碳浓度，m o l m 3 ； n 。，一进入发酵液的空气中二氧化碳体积分数； _ 。：。一流出发酵液的二氧化碳体积分数； 。一二：氧化碳生成率，m o l m 3 h ； v 一发酵液体积，m 3 ； 圪，一进入发酵液的空气在标准状态下的体j | 流摄，1 1 1 3 h ； 圪。一排出发酵液的空气在标准状态卜的体积流量，m 3 h ； f 1 添加补料速率，1 3 1 3 h ； i ，一进入发酵液的干空气中惰性气体的体积百分数； l l w , i 进入发酵液的空气中水分的体积百分数： ”一一排出发酵液的空气中氧的体积酉分数； h 。一排出发酵液的空气中二氧化碳的体积西分数； 排出发酵液的空气中水分的体积百分数； n ：一空气在操作温度下饱和水蒸气的体积百分数： 巾一空气的相对湿度： c 职一发酵过程中二氧化碳生成率，m m o l ( l h 1 ： c 。一发酵液中产物浓度，g l ； e 一发酵液中生物质浓度，g l ； 。以二氧化碳比生长率表示的细胞维持常数，m m o l ( g 1 1 ) t 发酵时间，h ： b 。一细胞生长相对于二氧化碳生成的得率常数，g t m m o l ； 。一产物合成相对于二氧化碳生成的得率常数，g m m o l ； d 一补料净稀释率，h - 1 ： i v k 一产物一级水解常数，h 。： q ，一产物比生长率，g ( g h ) 。 第一章序言 1 引言 发酵泛指利用微生物制造或者生产菜些产品的过程，包括厌氧培养的q i ，“ 过程以及有氧培养的生产过程。发酵过程是一种极其复杂的生化反应过程，它 的存在已经有数千年的历史，但是划发酵本质的认识和发酵： 业的建立却只是 近i i 年的事。发酵过程不仅具有一般非线性系统的时变性、大惯性、关联性、 不确定性等特点，而且由于发酵过程中的一些重要参数如生物质浓度和产物浓 度都难以在线测量，所以发酵过程的控制比一般的非线性系统更加1 复杂。随着 生物技术f i ( j 发展，发酵工业在国民生活和国民经济中变得越来越重要，但是山 于发酵过程的参数测量技术远远落后于系统实时控制的要求，使得发酵过程的 控制难以满足实时性要求。 2 小波分析技术的基本概念和理论 小波变换的思想来源于伸缩与平移方法。小波变换作为信号处理的手段， 越来越受到更多领域理论工作者和工程技术人员的重视和应用，并在1 1 ：多领域 取得了显著的效果，小波理论也得到了长足的发展，其相应的工具软件包也愈 柬愈多。在数学家看来，基于小波变换的小波分析技术是泛函分析、调和分析、 数值分析等半个多世纪以来发展最完美的结晶，是j 下在发展中的新的数学分 支。在1 二程应用领域，特别是在信号处理、图像处理及复杂、非线性科学等领 域，它被认为是近年来在工具和方法上的重大突破【。 设妒( f ) 为一平方可积函数，即妒( f ) r ( 月) ，若其傅立叶变换y ( ) 满足条件 挚 一， 则称妒( f ) 为一个基本小波或小波基函数，并称式( 1 1 ) 为小波函数的可容许性 条件。 将小波基函数p ( f ) 进行1 i f 缩和j f 移，设其伸缩因子( 尺度因f ) 为d ，j f 移w ，为b ，则称纯6 ( f ) 为小波函数： ( f ) ：口一；妒( 垡) ， o ，b r ( 1 ，2 ) 小波函数具有以f j l 个特点： 1 ) 出于小波函数满足容许性条件( 1 1 ) ，也即e ( 7 = o ，闲此其直流分量 为零，小波具有正负交替的波动性。 2 ) 小波函数在时域和频域都具有较好的局部性，随着f 增加而快速褒* 。4 。 3 ) 在任何尺度n 、时间点b 上，窗口面积址删保持不变。 4 ) 小波基函数在频域具有带通特性，其伸缩和j f 移系列。o ) 可看作是一鲤【 讲 通滤波器。 常用的小波基函数有m a r l e t 小波、m a r t 小波( 墨两哥小帽小波) 、d o g 小波、 紧支集样条小波等。 3 小波神经网络 3 1 神经网络 神经删络是+ 一个以有向图为拓扑结构的动态系统【3 】，它通过剥连续或断续 式的输入作状态响应而进行信息处理。神经网络系统是 _ 大量的、同时也是很 简单钓处理单元( 或称神经元) 通过广泛地互相连接而形成的复杂网络系统。 虽然每个神经元的结构和功能十分简单，但出大量神经元构成的网络系统的行 为却是丰富多彩和十分复杂的。神经网络系统是一个高度复杂的非线性动力学 系统，不但具有一般非线性系统的共性，更主要的是它还具有自己的特点，比 如z 岛维性、利 经元之脚的，。泛互连性以及自适应魁：或自组织性等。 在神经刚绍中发生的动力学过程有两类【4 1 ：一类称之为快过私，另一类称 之为慢过程。所渭快过程，即是神经网络的计算过程，它魁神经网络活跃状态 山东大学硕士堂僮途塞 的模式变换过程。神经网络在输入的影响下进入一定的状态，出于神经元之脚 相互联系以及神经元本身的动力学性质，这种外界刺激下的兴奋模式会迅速地 演变为平衡状态。这样，具有特定结构的神经网络就可以定义为一。类模式变换， 而计算( 知觉) 过程就是通过这类模式变化实现的。快过程是短期记忆的基础 从输入态到它临近的某平衡态的映射是多对一的映射关系。这种关系可用柬实 现联想存储等功能，这种信息的存取方法具有一定的推广能力，即可把一纽邻 近的输入态映射到统一平衡态中去。 神经网络只有通过学习才具有上述模式变换的能力，神经网络的学习过程 即为慢过程。在该动力学过程中，神经元之间的连接强度将根掘环境信息发生 缓慢的变化，将环境信息逐步存储于神经网络中，这种由于连接强度的变化丽 形成的记忆是长久的，称之为长期记忆。慢过程的目标不是寻求某个乎衡态， 而是希望形成个具有一定结构的自组织系统，这个自组织神经网络与环境的 相互作用，把环境的统计规律反映到自身结构上来，即通过与外界环境的相互 作用，从外界环境中获取知识。比如联想记忆的建立是一个学习过程也是。一 个慢过程，它要求改变连接强度，以把要学习的模式长期保存下来，这个刺激 被系统很快地演变到平衡态，因而对这个刺激的记忆是短暂的。 对于快过程与慢过程的不同处理方法便形成了神经网络理论研究的两种 模式，即所谓的学习神经网络模式和自组织模式。学习神经网络模式的主要特 点是把慢过程与快过程分离开，该过程把快过程看作是一个自治的动力学过 程，而慢过程则是一个外加的对神经网络的连接强度进行系统调烂的过程。神 经网络的连接强度只是一个动力学习系统的变量，很显然，这丰| | 方法是无法实 现“干中学，学中干”的。 与之不同的是自组织模式，这种方法把慢过程看作是与快过程同时进行而 又相互影响的一个自组织过程。它把神经网络的连接强度也看作为动力系统的 变量而不是参数，它不需要外加在系统之上的凋整连接强度的学习算法，而魁 建立一个统一的自治动力学系统，使得学习与自适应可以自发地进行。即在与 外界环境的1 ；断相互作用p 达到自组纵，冈此而积累知以雨i 经验。更为有意义 的是，通过这种自组织，系统可以不断地修1 f 自己的知识，修正神经网络r p 的 知识编码。显然，这种系统可以实现“干中学，学中干”。 在神经网络中，修改权值的规则称为学习算法。现有神经蚓络的学习算法 以梯度下降类算法为主算法结构清晰、计算量小，但收敛速度极慢。后来发 j 琏的改进算法有最小二乘法、增一卡尔曼滤波法等1 6 1 1 7j 【8 1 ，该类算浊将系统辨 识的思想引入前向网络学习中，将网络权值视为一个栩应动态系统的状念向 量，应用系统辨识的方法辨识出全部的状态参数。此类算法易于递推实现，收 敛速度提高数个数量级，收敛精度高于梯度下降算法，无需任何学习参数的猜 测。但是i 】b ! | 络学习过程涉及大量矩阵运算，尤其是矩阵求逆，计算量明显增加 限制了刚络规模。为了克服这一缺陷，有人丌发m 了撼j 二系统解耦| ：! l 想的局部 化算法，降低矩阵计算的维数。 3 2 小波神经网络 h 一：任意一个工2 俾) 中的函数都能进行连续或离散型的小波分解这说明 我们可以用小波分解的部分和去逼近r ( r ) 中的函数。 记 mn g 。，。b ) = c 似，咖b ) ( 1 3 ) 该式与前向神经网络输出具有相同形式【鲥，因此用小波函数作为神经元的激励 函数，就构成了小波神经网络，简称小波网络。类似地，对2 ( r ”) 可以用n 维小波分解的部分和去逼近其中的任一函数。 4 软测量技术 随着现代工业过程控制对控制、计量、节能增效和运行可靠性等要求的提 高，各种测量要求日益增多，仅获得流量、压力、温度、液位等常规过程参数 的信息已不能满足工艺操作和控制的需求，需要获取诸如成分、物性等与过程 操作和控制密切相关的检测参数的测量信息。另一方面，仪表测量的精度要求 越来越高，测量山静态或稳念向动态测量发展，在许多应用场合还需要综台运 用所获得的各种过程测量信息，才能实现有效的过程控制、对生产过程或测量 系统进行故障诊断、过程监测等【1 0 1 。 由于工业过程生产系统涉及物理、化学、生化反应、物质及能精的转换和 传递，系统的复杂性、不确定性导致了过程参数检测的困难。虽然过程检测已 有长足的进步，但目前实际工业过程t j j 仍存在许多无法或难以直接用传感器或 过程检测仪表进行测量的重要过程参数。一般解决 ：业过程的测量要求有两条 途径1 ：一是沿袭传统的检测技术发展思路，通过研究新型的过程测量仪表， 以硬件形式实现过程参数的直接在线测量；另一就是采用间接测最的思路，利 用易于获取的其它测量信息，通过计算来实现被检测量的估汁，近f i ：来在过程 控制和检测领域涌现出的一种新技术一软测量技术( s o f t s e n s i n g t e c h n i q u e ) j f i 足这+ 一思路的集中体现。 4 i ，软测量的基本含义 软测量技术是依据某种最优化准则，利用由辅助变量构成的可测信息，通 过软件计算实现对主导变量的测量，也称为软仪表m 】，它的核心是表征辅助 变量和主导变量之间的数学关系的软测量模型，如图1 1 所示。因此，构造软 仪表的本质就是如何建立软测量模型，即一个数学建模问题。 软测量也并不完全局限于由辅助变量去估计不可测量这个范畴 t2 j ，它可 以推广到如下情况：在工业过程中，许多系统的输出不能及时地测量，这给过 程的控制和监测带来很大困难。如果通过历史测量和分析数据建立准确的过程 辅助变量 校正值 莛 估计 蚓1 1 软测最模7 性 模型，就可以将系统的输出实时地反映出来。这种由工业过程输入值通过f 【 i 讣 器( 软件模型) 实时得到系统输出的方法也称为软测量技术。 软测量技术的分类一般是依据软测量模型的建立方法，大体一k 有九种：机 理建模、回归分析、状态估计、模式识别、人工神经网络、模糊数学、过程层 析成像、相关分析和现代非线性信息处理技术。其中神经网络建模发展迅速， 应用最广泛 1 0 1 。本文在发酵过程中采用的就是基于人工神经网络的软测量建 模。 4 2 软测量技术的应用 棚埘于硬件检测设备，软仪表的 丌= 发成本较低，配置比较灵活，维护棚列 容易，各利，变量的检测可以集中于一台控制计算机上，无需为每个待检测的变 量配置新的硬件。 软测量技术作为过程检测领域中一种新型的参数测量技术，不仅用于实现 众多目前难以用常规仪表直接测量的所谓难测参数的在线检测，还可以为高级 过程控制和在线稳态优化提供被控变量和其它的过程信息。 山于采用软测量技术一方顽可以获取更多的过程信息，另一方面由于软仪 表的载体是计算机软件，可以通过台理的编程，综合运用各种所获信息实现过 程的故障诊断和状态监测等，并对生产过程进行评估和协调，因此软测量技术 在过程监测和生产管理中也有十分重要的作用。 4 3 发酵过程的软测量技术 发酵过程作为一种复杂的生化反应，它比一般的非线性系统更加复杂，主 6 要表现在：发酵过程中有复杂的物理、化学反应过程，发酵过程的参数众多， 并且没有合适的测量这些参数的仪器，这使得发酵过程的建模和控制很困难， 所以迄今为止，对发酵过程的控制还没有很好的方法。山于缺少对过程参数的 测量、监测和控制的实时系统，使得发酵产品的成本高，操作费用高。降低发 酵过程的能耗、降低成本和提高产品的产率足发酵过程控制的个f i i l l 标，i j j 实 现这个目标最重要的一环就是，能够在不增加1 实际仅表基础上实时地虢得过 程参数。 在微生物发酵过程中需要控制f ( ：j 参数分为三类1 4 】：物理参数、化学参数 和生物参数。 1 ) 物理参数：通常有发酵罐温度、发酵罐压力、发酵罐体积、空气流量、 冷却水流量、冷却水进出口温度等，这些物理参数，根掘不同种类的发酵要求， 都可以选择性的选用有关溺量仪表来实现自动测量。 2 ) 化学参数：主要包括p h 值和溶媚氧浓度这两个参数。现在围际t 已经 有成熟的p h 和溶解氧测量电极，可以实现在线测量。 3 ) 生物参数：通常包括生物质呼吸代谢参数、生物质浓度、代谢产物浓度、 底物浓度、底物消耗速率以及产物形成速率等。现在国内外几乎还没有训以在 线测量生物参数的仪器，这也是发酵过程控制比一般工业生产过程控制难度更 大的原因。 对于这种复杂的生化反应过程，建立过程模型的传统的方法是基于能量和 物料平衡方程建立机理模型，这种机理模型需要对过程的动态特性、传输特性 及生化反应特性有深入的了解。而且由于发酵过程本身是高度的非线性和时变 的，其动态特性往往是部分或者全部未知的，所以模型的预测能力一卜分有限。 传统的发酵过程的操作方式是刀：环的，凭经验来补加营养物料和前体。山 予缺乏发酵过程参数的测量监视和控制系统，使得发酵成本商，操作费用大。 而且即使有经验的操作者能对发酵过程的环境参数，如p l 、发酵温度、溶解 氧浓度等控制的很好，但是由于微生物发酵过程只有高度的非线性和i i , j 变性， 关键变量如生物质浓度和产物浓度不可以在线测量，使得发酵过l ! ，! 的控制变得 复杂。所以加强发酵过程的监督和控制是很重要的问题。 生化反应过程一般按如下过程进行：菌体在合适的环境及底物组成的条件 下，先利用底物中的营养物质进行菌体的大量生长和繁殖，并维持在个较高 的浓度上，然后进入菌体的产物分泌期，菌体除了利用一定量底物束维持自身 的活力和浓度以外，绝大部分底物中的营养成分被用于产物的生成“b 予有大 量活细胞的参与，使得发酵过程的非线l t 年h 不确定性尤为明显。 发酵过程是很复杂的非线性动态过程，其影响因素之多、关系之复杂，给 过程蝻测和控制带来很大的困难。目前尚无精确的在线测量手段来测量发酵过 程中一些关键变量，如产物的浓度、代谢速度等，软测量技术是解决发酵过程 中普遍存在的一类难以在线测量变量估计问题的有效方法。它克服了人工分析 及使用在线分析仪表的诸多不足，是实现在线质量控制及先进控制、优化控制 的前提和基础。 最近几年，人们开始用估计技术来预估生化过程的重要变量，如用知以库 系统来帮助指导发酵过程和操作，用专家系统、模糊控制提高发酵过程的自动 化监测水平。而对于难以建立精确机理模型来描述其关系的生化过程，常常采 用基于输入输出数据的神经网络直接建模方法柬建立软测量模型。但是，单一 的直接建模会增加建立模型的难度，训练样本多而复杂，而且模型精度会受到 影响。小波神经网络由于把神经网络的自学习特性和小波的局部特性结合起 来，具有自适应分辨性和良好的容错能力因此特别适合应用在函数逼近、系 统辩识等领域，小波神经网络的发展为发酵过程的软测量建模提供了一种新的 方法5 l 。 r 5 本文内容简述 在下伯f 的论文中，针对现有的发酵过程混合神经网络建模方法，分别指出 它们的优缺点，并对这几种建模方法在发际过程中的应j t j ，进行了仿真研究， 分析u 各自适合应用的范围和条件，提出了广义神经网络建模方法，束建立发 酵过程的模型；采用小波神经网络，利用发酵过程的物质荧光谱强度与物质浓 度之f 刚的关系，建立仿真模型，应用实际的数据来证明网络的有效性；介绍了 青檬素发酵过程工艺及过程特点，根据可在线测量过程变量二氧化碳释放率 c e r ，应用广义混合神经网络建模方法，测量发酵过程的生物质浓度，爿进行 了仿真实验。 第二章广义混合神经网络建模 发酵过程是一类及其复杂的生化过程，具有高度非线性，一些重要的过程 变量，如生物质浓度，无法实现在线、实时测量，从而无法实现发酵过程的优 化控制。人竹 曾经将卡尔曼滤波器估计技术用于发酵过程状态变量的估计【1 6 1 ， 近年来人_ 神经网络的发疑为发酵过程状态估计提供了一条新途径。 神经网络在发酵过程的应用已有很多成功的例予，并且研究成果已经证 明，神经网络技术在发酵过程中的应用比卡尔曼滤波器估汁技术精度高、预测 准确1 1 0 l 。神经网络应用于发酵过程建模主要有两利l j 侈式，足直接j _ j 神经网 络建模，也称为标准神经网络建模，即不需要了解过程的先验知识，根据过程 的输入输出数据直接建立过程模型；再是混合神经网络建模，即将神经网络与 过程的先验知识如物料、能量平衡方程相结合，组成混合神经网络模型，这种 模型明显比标准神经网络模型建模精度高、泛化能力强 1 7 j 2 1j 1 2 2 1 。 发酵过程混合神经网络建模方法，包括串联结构、1 二馘结构、串并联结构 混合神经网络模型。这几种模型存在一个共同问题，即由于神经网络的输出不 是混合模型的直接输出，使得神经网络模型训练复杂，一些标准神经网络的有 效训练算法不能使用。因此，本章提出了一种可用神经网络描述发酵过程一般 结构形式的模型，称之为广义混台神经网络模型。该模型由非线性神经网络和 线性神经网络两部分组成，由于非线性神经网络采用结构具有线性形式的小波 神经网络( m r n n ) ，使两个网络能够合并为同一表达式，并具有线性形式， 能够使用正交化最小二乘法求解网络权值。与串联结构和串并联结构混合神经 网络模型相比，该模型训练方法简单，并可方便地使用在线辨识算法。 1 建模问题的提出 考虑一般的动态系统可用下列方程表示 i d x = f ( x , u , p ) p = g ( x ，“) 式r _ 1 ：x 为系统的状态向量；, 为控制向量；p 为过程参数向量。 ( 2 1 ) ( 2 2 ) 这些参数p 基本上表达了过程的动力学特性，通过方程g ( ) 表示之们与过 程状念变量的关系。在分批补料模式f 运行的发酵过程，对于建模来说，是 个：i i ：常困难的问题，因为操作过程处在不断变化的条件下，操作条件变化范围 很宽。一种分批补料发酵过程可用如下方程j 乜表示f 2 3 学训即) _ 器硼) 百d s ( t ) - k i l t ( f ) 珊鬻vt 瓯( f ) 坝f ) 】 讲i ) _ _ d r ( t ) ：f o ) d t ( 2 3 ) ( 2 4 ) ( 2 5 ) 式中：x ( o 为菌体浓度：s ( f ) 为基质浓度；s i o ) 为进料基质浓度；f ( t ) j , j 进料 流速；v ( t ) 为发酵液体积；屯为基质消耗率；( f ) 为比生长率。 式( 2 3 ) 一( 2 5 ) 物料平衡方程只提供了部分机理模型，过程的动力学特 性包含在比生长率( ，) 中，( f ) 是过程的生物化学、生物学和物理化学变量的 复杂函数。有大量描述( f ) 动态特性的模型，但对于一个特定发酵过程，并没 有直接供选择的模型，有些过程还找不到准确的表达式。( f ) 是未知的，不可 测量的参数，假设( ，) 是状态变量的函数，可通过可测量的状态变量来估计参 数( ，) 的值。 仿真中用h a l d a n e 模型代表“真实”过程1 2 4 】： 加) = 百黥 s ， 式巾：，f 。为最大比生长率常数；k 。和k 。为模型常数。 2 三种典型混合神经网络模型比较 神经网络的典型建模方法是直接建模，即假i 殳无过程先验知识，仪依靠输 入输川特性来建立过程模型。当兀有效的先验知识时，直接建模办法足i l l i i i r 行的方法。= i | 1 经网络虽具有逼近任意函数的能力，但也有它的缺点。对j ：包含 有上1 1 ；_ 个内部参数的网络，可能导致过拟合，降低泛化能力。吲此，人们剥 发新的建模方法产生了越来越大的兴趣。其中一种思路是将过程的内部结构融 入神经网络建模中，按这种思路建立的模型有一个共嗣的特点足模型小各个部 分完成不同的任务。例如，将过程内部已知的线性模型与非线性神经网络模型 相结合，发挥神经网络的非线性特性，非线性网络对过程非线性特性建模，这 样使得拯个模型能够描述过程功能的复杂动力学特性。这种建模方法统称为混 合神经网络建模。目前，在发酵过程。 j 应用的混合神经网络模型有如卜儿种她 型结构：串联结构、并联结构和串并联结构。 2 1 串联结构的混合神经网络模型 外部输入 图2 1 串联结构模型 串联结构的混合神经网络模型将输出模型和神经网络模型相串联，输出模 型是先验知识，如平衡输出方程，用神经网络估计不可测的中间参数。结构如 图2 1 j 圻示。在串联结构的混合神经网络模型中，整个模型的最后输出山先验 模型给出，因此，串联结构混合神经网络模型的主要特点是输出特性有保证。 但是，因为整个模型的最后输出与神经网络输出不是直接关系，不能使用标准 神经网络的建模训练方法。文献1 2 1 1 通过积分灵敏度方程讨算混合模型输出埘 12 于卒l i 经网络权值的梯度，从而计算出误差修正信号束调节嘲络的权值。 2 2 并联结构的混合神经网络模型 并联结构的混合神经网络模型结构如图2 2 所示。在并联结构巾，将神经 删络j 先验模挺部分相并联，神经网络模型的输出b 先验模型灼输之和决定 整个模型的输出。山于内部过程的复杂性或4 i 可测量的l j 扰剧紊，使得先验模 型1 j 实际系统有偏差时，用神经网络来弥补这个偏差。 y 2 图2 , 2 并联绌构模型 在并联结构的混合神经网络模型中，神经网络模型的训练取决于实际系统 输出数据与先验模型输出的偏差。神经网络模型的训练足直接的，因为亭l | i 经网 络的输出与整个模型的输出成比例关系。 2 3 串并联结构的混合神经网络模型 i i it h o m p s j i 2 和k r a m e r1 2 5 1 提出的串并联结构混合神经网络模型的结构如图 2 3 所示。 幽2 3 巾并联结构模刑 在串，1 ：联结构的混合神经网络模型中，具有部分先验知识的参数表达式与 神经网络模烈并联，两部分组合后再与输出方程串联。先验知识表达的参数“1 13 于发酵过程内部复杂的动态特性或干扰因素只表达了真实参数的部分特性时， 剩余部分用神经网络补偿。这种串并联结构比串联和并联这两种结构更趋于一 般化。当缺乏参数的先验知识时，参数全部有神经网络的输出给出，结构转变 为串联形式，当参数能够包含过程的全部动态特性时，神经网络输出为零，整 个模型即变成纯机理模型。 在这种串并联结构的模型中，与串联结构形式的混合神经网络模型一样， 由于将物料平衡输出方程约束条件强加于混合模型中，平衡方程的输出就是混 合模型的输出，使混合模型的输出有了保证。但同样情况是因为神经网络的输 出不是整个模型的输出，不能采用直接方法对神经网络训练。文献 2 5 采用非 线性规划( n l p ) 算法，对平方误差目标函数搜索极小值，调整网络权值。 3 广义混合神经网络模型 对于一般的发酵过程，可以描述成如下的一般表达式，系统可以定义为 j s 个状态变量五，x z ，状态变量与s 个表示反应速度的参数 点，毒：，善帆相互作用。用善r 虬。8 表示一个对角矩阵，对角元素为参，吾：，善帆。 动力学平衡模型用下述微分方程描述： 膏= 乒一d x + f - g ( 2 7 ) 其中，x = 伍，j ：，x 虬) r 是状态变量向量，f 是物料进料流量，g 是物料出 料流量，d 是稀释度。 在串联和串并联结构的混合神经网络模型中，用神经网络模型辩识参数 点，手：，鼠，因网络输出不是系统的直接输出，使得网络模型的训练较复杂。 针对式( 2 7 ) 描述的发酵过程，离散化转变成差分方程后，本章提出采用 非线性和线性两个神经网络相结合组成混合神经网络模型结构。在整个模型 中，非线性神经网络部分代表过程的非线性动力学特性，其输出为各参数亭， 它是状态变量x 的复杂非线性函数。线性神经网络部分表示过程的输出平衡方 14 ：出丕太堂亟堂僮诠塞 程，网络输出为下一时刻的各状态值x ，o + 1 ) ，输入为式( 2 7 ) 右边各项，输 入与输出呈线性关系。若第歹个输出元素x ，9 + 1 ) 用表示，模型结构如图2 4 所示。 外部输入或输出( ，g ，) 图2 4 广义混合神经网络模型结构 本章提出的由非线性神经网络和线性神经网络组合构成的模型，它保留了 发酵过程机理模型的结构形式，但又能够用神经网络统一表达出来，这种结构 的混合神经网络模型通用性更强，含义更广。所以，在此称为广义混合神经网 络模型。 用非线性神经网络描述非线性动力学特性参数孝，若采用多分辨率小波神 经网络( m r n n ) , 网络的输入是各状态变量x ，输出是各参数六。则六可表 示为； 身= n n s ( x ) = 一m ( 2 8 ) 其中： 4 。是由4 、波函数妒( ) 和尺度函数妒( - ) 产生的输入矩阵， a 。= 阮 ( z ) ，九，( 】r 1 一，； r 托x 是非线性网络的权值：帆是网络的 神经元个数。 线性网络部分的输出表示为： = 以睨 ( 2 9 ) 其中：a c = 【岛一，q x ，乃，g ，】r l , ( 2 , v s + 2 ) 是线性网络输入矩阵；睨r ( ：+ 2 ) x t 是 线性网络权值：q ，乃，g 分别是d ，f ，g 矩阵的第_ ，行向量；虮是状态变置个 数。 将式( 2 8 ) 代入式( 2 9 ) ，两个网络合并，得： = a w ( 2 1 0 ) 其中：一= 阻。，d j x , f j ，g ，】r 虬“2 ：w = m ，】；爿。r 1 x 虬是由x j 乘于爿 中每一个元素得到；暇是由w , 0 ) 乘于中每一个元素得到： 7 = 眦( 2 ) ，( 2 m + 2 ) 】。 将非线性神经网络和线性网络组合在一起，具有式( 2 1 0 ) 的简单线性形 式，模型中只有权值矿是经过训练确定。两个网络一起训练，可采用最小二 乘法得到模型总的权值： w = a + ( 2 1 1 ) 其中，彳+ 是矩阵彳的伪逆。这种混合模型也可采用快速在线最小二乘递推算 法。 4 仿真实验 在仿真实验中，对前人所研究的三种典型混合神经网络模型和本章提出 的广义混合神经网络模型进行建模，比较它们的建模精度、预测能力及泛化能 力。 各种建模方法的仿真中，采用同一训练数据。用式( 2 6 ) 表示4 0 的“真 实”模型。在仿真中，所用到的常数有 1 0 1 ：基质消耗率k = 1 ，h a l d a n c 模型常 数k ，= 1 0 , 1k i = 0 1 ，最大比生长率常数a 。= 5 。进料基质浓度s m o ) 作为操作 变量，进料流量f ( t 1 保持常数。 在串联结构混合模型建模中，该仿真图2 1 中的先验输出模型采用式( 2 3 ) 一( 2 5 ) ，神经网络的输出为比生长率4 t ) 的估计值。神经网络模型采用文献 1 0 的n 练算法。 在并联结构混合模型建模中，该仿真例子图2 2 中的先验模型应由两部分 1r 组成，输出模型仍用式( 2 3 ) - - ( 2 5 ) ，但是式( 2 3 ) ( 2 5 ) 中参数( r ) 的 表达式假设是简单的m o n o d 模型【1 1 l ： 删= 踹 ( 2 1 2 ) 由于不准确的参数( f ) 引起先验模型的输出与系统实际输出有偏差，神经网络 用于补偿这个偏差。神经网络模型采用负梯度方法训练。 图2 3 表示的串并联结构模型中，本例仿真的先验输出模型仍用式( 2 _ 3 ) 一 ( 2 5 ) ，先验参数表达式同并联结构模型一样，也用式( 2 1 2 ) 的简单表达式。但 是这时神经网络的输出是对不准确参数( ，) 的直接补偿。神经网络模型采用文 献 3 6 的训练算法。 方程( 2 - 3 ) 中，比生长率和菌体浓度合并，用一个参数表示，这时，方程( 2 3 ) - ( 2 5 ) 变为： 掣跏卜嚣圳 ( 2 1 3 ) 百a s ( t ) = - k l a ( f ) + 嚣溉伊刚 ( 2 1 4 ) 掣川) ( 2 1 5 ) 广义混合神经网络模型的建模，按式( 2 1 0 ) 的表示网络的输出为 五，艺】= 【z o + 1 ) ，s 9 + 1 ) 】分别是菌体浓度和基质浓度。五( f ) 的估计值对应非线性 神经网络的输出，非线性神经网络的输出及式( 2 1 3 ) 和( 2 1 4 ) 等式右边的其它项 为线性神经网络的输入。非线性神经网络和线性神经网络两部分的输入合并 后，次由最小二乘法求出网络权值。 为了能使训练数据覆盖所有可能的操作区间，训练数据如下选取：，( f ) 进 料流量取定值；迸料基质浓度s 。( t ) 以标准值6 0 9 f l 为基准，在标准值的3 0 内随机波动，随机信号符合均匀分布；两个状态变量的初值( 菌体浓度x 和 基质浓度s ) 分别选择( 0 5 ，0 5 ) ，( o 5 ，0 1 ) ，( 0 9 ，o 5 ) 和( 0 9 ，0 1 ) ，4 组不同值，得到的数据组成训练数据：补料发酵1 5 h ，然后停止进料，即令进 料流量和进料基质浓度为零，再运行5 h ，这样每批发酵是共2 0 h ，采样5 0 个 点。假设所有的测量带有高斯臼噪声n ( 0 ，0 0 1 ) 。 p s i c h o g i o s 和u n g a r l l 7 1 采用的神经网络是前向b p 网络，t h o i n p s o n 和 k r a m e r l 2 ”采用了r b f 神经网络，单纯从这两种网络来讲，对建模精度并没有 太大的影响。为比较方便，在此都采用在线逐步修正的辨识算法。对于每一种 结构的模型反复训练，使选择的神经元个数达到最优效果。从建模的结果看， 每种结构的模型都能与训练数据拟合得很好，但其内插值和外推能力大不一 样。 为了比较上述建立的各种模型的泛化能力，改变菌体浓度x ( t ) 和基质浓度 s ( r ) 的初始值，建立测试数据。建模训练数据范围为菌体浓度是( o 5 ，6 8 ) 和