（计算机应用技术专业论文）基于ga算法的虚拟角色面部表情建模研究.pdf

摘要 摘要 题名：基于g a 算法的虚拟角色面部表情建模研究 硕士研究生姓名：武春友 导师姓名：王士同 专业名称：计算机应用技术 随着人工神经网络的深入研究，人工神经网络方法己在许多领域获得成功运用。神经网络的主要特 点体现在其具有信息处理的并行性、分布式的信息存储、自组织性和自适应性、具有很强的学习和联想 功能以及容错性等。 三维计算机图形动画电影是现代的一种娱乐方式，动画导演对虚拟角色面部表情的输出的要求也越 来越高，他们就需要通过计算机来帮助自己，以获得满意的虚拟角色面部表情。 遗传算法效法基于自然选择的生物进化，是一种模仿生物进化过程的随机方法。它摒弃了传统的搜 索方式，模拟自然界生物进化过程，采j j 人工进化的方式对目标空间进行随机化搜索。 交互式进化计算是以进化计算为基础，将进化计算与人为的主观评估结合起来，是对算法的扩展， 并比算法具有更强的描述能力。 本文阐述了在三维计算机动画影片中训练虚拟角色，从而使其更加符合导演期望达到的效果，探讨 了如何训练虚拟角色面部表情这一新课题，提山了将模糊神经网络应_ l j 丁i 虚拟角色面部表情的建模研究， 并川遗传算法和交互式进化计算分别训练模糊神经网络。实验结果表明，当该算法麻川丁训练虚拟角色 面部表情这一问题时，能在保证精度的前提r 快速收敛， 升能避免陷入局部最优，从而使得不同的动画 导演利川这个系统，能够根据自己的知识产生山符合白己要求的虚拟面部表情输出。 关键字：神经网络模枷系统遗传算法交互式进化计算虚拟面部表情 江南人学硕上学位论文 a b s tr a c t t i t l e ：t h e m o d e l i n g o f v i r t u a l a c t o r s f a c i a l e x p r e s s i o n b a s e d o n g a a l g o r i t h m g r a d u a t es t u d e n t ：w uc h u n y o u g r a d u a t et e a c h e r ：w a n gs h i t o n g s p e c i a l t y ：c o m p u t e r a p p l i c a t i o na n dt e c h n o l o g y a si h ep r o f o u n dr e s e a r c ho fa r t i f i c i a ln e u r a ln e t w o r k t h em e t h o do fa r t i f i c i a ln e a r a ln e t w o r kh a sb e e n s u c c e s s f u l l ya p p l i e di nm a n yf i e l d s t h ep a r a l l e l i t yo fi n f o r m a t i o nm a n a g e m e n t ，d i s t r i b u t e di n f o r m a t i o ns t o r a g e ， s e l f - o r g a n i z a i o na n ds e l f - a d a p l i o n ，s t r o n gs t u d ya n da s s o c i a t i o nf u n c t i o na n di t sf a u l tt o l e r a n c ee m b o d yt h e m a i nc h a r a c t e r i s t i co fn e u r a ln e t w o r k t h r e e - d i m e n t i o n a lc o m p u t e rg r a p h i c s ( 3 d c g ) a n i m a t e dm o v i e sa r eam o d e mf o r mo fe n t e r t a i n m e n t t h e a n i m a t e dd i r e c t o r sn e e db e t t e ra n db e t t e ro u t p u t so fv i r t u a la c t o rf a c i a le x p r e s s i o n t h e ya l s on e e dc o m p u t e r s h e l pt h e m s e l v e st og e ts a t i s f a c t o r yv i r t u a la c t o rf a c i a le x p r e s s i o n g e n e t i ca l g o r i t h me m u l a t e sb i o l o g ye v o l u t i o nw h i c hb a s e do nt h en a t u r a lc h o i c e i ti sar a n d o mm e t h o d a n di ts i m u l a t e st h eb i o l o g ye v o l u t i o np r o c e s s i td i s c a r d st r a d i t i o n a ls e a r c hm o d e ，g e n e t i ca l g o r i t h mr a n d o m l y s e a r c ht h et a r g e ts p a c eb ym a n u a le v o l u t i o n i n t e r a c t i v ee v o l u t i o n a r yc o m p u t a t i o nb a s e so ne v o l u t i o n a r yc o m p u t a t i o n i ti n t e g r a t e se v o l u t i o n a r y c o m p u t a t i o nw i t hs u b j e c t i v eh u m a ne v a l u a t i o n i te x t e n d sa l g o r i t h ma n dh a ss t r o n g e rd e s c r i p t i o na b i l i t yt h a n a l g o r i t h m t h i sp a p e ri l l u s t r a t e san e u r o f u z z ym e t h o df o r t r a i n i n gv i r t u a l a c t o r si nt h r e ed i m e n s i o n a lc o m p u t e r g r a p h i c a lm o v i e sa c c o r d i n gt ot h e e f f e c tt h a tt h eh u m a nd i r e c t o r se x p e c t v i r t u a la c t o rf a c i a le x p r e s s i o n m o d e l i n gi sa ni m p o r t a n ta n dp r a c t i c a lt o p i c i n t h i sp a p e r ，f u z z yn e u r a ln e t w o r ki su s e dt oa c c o m m o d a t e d i r e c t o re x p e r tk n o w l e d g es u c ht h a ta p p r o p r i a t ev i r t u a la c t o rf a c i a le x p r e s s i o nc a nb ep r o d u c e d i no r d e rt o s p e e d u p t h e c o n v e r g e n c eo f t h e l e a r n i n ga l g o r i t h m ，g e n e t i ca l g o r i t h ma n d i n t e r a c t i v e e v o l u t i o n a r y c o m p u t a t i o na r er e s p e c t i v e l yi n c o r p o r a t e di n t ot h ef u z z yn e u r a ln e t w o r k o u re x p e r i m e n t a lr e s u l t si n d i c a t et h e s u c c e s so fo u ra p p r o a c hh e r e k e yw o r d s ：n e u r a ln e t w o r k ，f u z z ys y s t e m ，g e n e t i ca l g o r i t h m ，i n t e r a c t i v ee v o l u t i o n a r yc o m p u t a t i o n ，v i r t u a l f a c i a le x p r e s s i o n 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含 本人为获得江南大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明 确的说明并表示谢意。 签名：公叁丝日珀：妒1 年厂月衫日 关于论文使用授权的说明 本学位论文作者完全了解江南大学有关保留、使用学位论文的规 定：江南大学有权保留并向国家有关部门或机构送交论文的复印件和 磁盘，允许论文被查阅和借阅，可以将学位论文的全部或部分内容编 入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存、 汇编学位论文，并且本人电子文档的内容和纸质论文的内容相一致。 保密的学位论文在解密后也遵守此规定。 签名：丛焘盘导师签名： 日期：纱7 年j 月纱日 第一章绪论 1 1 人工神经网络简介 第一章绪论 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k ，简称a n n ) 是对人类大脑系统的一阶特性的一种描述。 简单地说它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究 的一种方法。 人工神经网络是人脑及其活动的一个理论化的数学模型，它是由大量的处理单元通过适当的方式互 连构成，是一个大规模的非线性自适应系统。1 9 鸥年，h e c h t - n i e l s e n 曾经给人工神经网络下了如下的定 义【l 】： 人工神经网络是一个并行、分布处理结构，它由处理单元及称为联接的无向信号通道互连而成。这 些处理单元( p e - p r o c e s s i n g e l e m e n t ) 具有局部内存，并可以完成局部操作。每个处理单元有一个单一的 输出联接，这个输出可以根据需要破分支成希望个数的许多并行联接，且这些并行联接都输出相同的信 号，即相戍处理单元的信号，信号的大小不冈分支的多少而变化。处理单元的输出信号可以是任何需要 的数学模型，每个处理单元中进行的操作必须是完全局部的。也就是说，它必须仅仅依赖于经过输入联 接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。 该定义土要强调了四个方面的内窬：并行、分布处理结构；一个处理单元的输山可以被任意分支 且人小不变；输出信号可以是任意的数学模型：处理单元完全的局部撵作。这里所说的处理单元就是人 i 神经元( a n - a r l i f i c i a ln e u r o n ) 。 按照r u m e l l h a r t 、m c c l e l l a n d 、h i n t o n 饰人提山的p d p ( p a r a l l e l d i s t r i b u t e dp r o c e s s i n g ) 理论框架( 简 称为p d p 模型) ，人【：神经网络由八个方面的要素组成： ( 1 ) 一组处理单元( p e 或a n ) ： ( 2 ) 处理单元的激活状态( a ) ； ( 3 ) 每个处理单元的输山函数( f ) ； ( 4 ) 处理单元之间的联接模式； ( 5 ) 传递规则( 罗q ) ； _ ( 6 ) 把处理单元的输入及当前状态结合起来产生激活值的激活规则( f ；) ( 7 ) 通过经验修改联接强度的学习规则； ( 8 ) 系统运行的环境( 样本集合) 。 可以将p d p 模刑表示成幽1 1 的形式。 飞 j ，甜2 n e t j = ，a = f ，肛e f j r ，哆一 图1 1p d p 模删卜的人i ：神经元网络模刑 江南大学硕士学位论文 以上这两种定义都比较详细、复杂。为了使用方便，1 9 8 7 年，s i m p s o n 从人工神经网络的拓扑结构 出发，给出了一个虽然不太严格但却是简明扼要的定义。它对于一般的应用来说是足以说明问题的： 人工神经网络是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可 以从不完整的或未知的输入找到模式。 1 2 进化计算简介 进化计算【2 l ( e v o l u t i o n a r yc o m p u t a t i o n ，简称e c ) 是一种模拟进化优化算法，由f o g e ll j 在6 0 年 代提出【3 l 。目前，这一方法已成为模拟进化优化方法的四个主要研究( 遗传算法【4 i 、进化计算、进化策略 和遗传编程) 热点之一。 1 2 1 进化计算 进化计算的研究起始于2 0t h = 纪5 0 年代。当时几个计算机领域的科学家独立地开始研究进化系统。 其思想就是将自然界中的进化过程引入工程研究领域以解决工程中的优化问题。在用进化思想解优化问 题时，使圳了进化过程中的遗传、选择等概念并且把它们作为算子参与优化。 进化计算是基于白然选择和白然遗传等生物进化机制的一种搜索算法。与普通的搜索方法一样，进 化计算也是一种迭代算法，不同的是进化计算在最优解的搜索过程中，一般是从原问题的一组解出发改 进剑另一纽较好的解，再从这组改进的解出发进一步改进。而且在进化问题中，要求当原问题的优化模 型建立后，还必须对原问题的解进行编码。进化计算在搜索过程中利_ 【 j 结构化和随机性的信息，使晟满 足目标的决策获得最人的生存可能，是一种概率刷的算法。一般米说，进化计算的求解包括以f ) l 个步 骤：给定一组初始解；评价当前这组解的性能：从当前这细解中选择一定数昔的解作为迭代后的解的基 础：再对其进行操作，得剑迭代后的解；若这些解满足要求则停i r ，否则将这些迭代得剑的解作为当前 解重新操作。 1 2 2 进化计算的特点 进化计算是一种具有鲁棒性的方法，能适应不同的环境不同的问题而且在人多数情况r 都能得剑 比较满意的有敛解。他对问题的粘个参数空间给出一种编码方案，而不是直接对问题的具体参数进行处 理，不是从某个单一的初始点开始搜索，而是从一组初始点搜索。搜索中_ i j 剑的是目标函数值的信息， 可以不必川剑目标函数的导数信息或与具体问题有关的特殊知识。冈而进化算法具有广泛的府h j 性高 度的1 线性，易修改性利可并行性。 1 2 3 遗传算法 遗传算法( g e n e t i ca l g o r i t h m s ，简称g a ) 是一种优化算法，它效法基丁臼然选择的生物进化，是 一种模仿生物进化过群的随机方法。它摒弃了传统的搜索方式，模拟白然界生物进化过捌，采_ l f j 人i ：进 化的方式对目标空间进行随机化搜索。它将问题域中的可能解看作是群体的一个个体或染色体，并将每 一个体编码成符号串形式，模拟丛尔文的遗传选择和白然淘汰的生物进化过程，对群体反复进行基丁遗 传学的操作( 遗传交义和变异) ，根据预定的目标适应度函数对每个个体进行评价，依据适者生存， 优肚劣汰的进化规则，不断得到更优的群体，同时以全局升行搜索方式来搜索优化群体中的晟优个体， 求得满足要求的虽优解。 遗传算法研究的历史比较短2 0 世纪6 0 年代末期剑7 0 年代初期，主要由关国m i c h i g a n 人学的j o h n h o l l a n d 与其同事、学生们研究形成了一个较完帮的理论和方法，从试幽解释臼然系统中生物的复杂适应 过科入手，模拟生物进化的机制米构造人i ：系统的模删。随后经过2 0 多年的发展取得了丰硕的麻川成 果平| l 理论研究的进展，特别是近年来世界范罔内形成的进化计算的热潮计算智能已成为人i 智能研究 的一个重要方向，以及后来的人i 生命研究的兴起，使遗传算法受士u 了j “泛的大注。从1 9 8 5 年在美国 耐基梅隆人学召开的第一届国际遗传算法会议( i n t e r n a t i o n a l c o n f e r e n c eo n g e n e l i c a l g o r i t h m s i c g a 2 第一章绪论 8 5 ) ，到1 9 9 7 年5 月i e e e 的t r a n s a c t i o n so be v o l u t i o n a r yc o m p u t a t i o n 创刊，遗传算法作为具有系统优 化、适应和学习的高性能计算和建模方法的研究渐趋成熟。 1 2 4 交互式进化计算 交互式进化计算p j ( i n t e r a c t i v ee v o l u t i o n a r yc o m p u t a t i o n ，简称i e c ) 是以进化计算为基础，将进化 计算与人为的主观评估结合起来，是对算法的扩展，并比算法具有更强的描述能力，一系列基本概念被 扩展到交互，从而使实验结果更精确，收敛速度更快。 进化算法是求解数值( 组合) 优化问题的重要方法，在许多领域得到了广泛的应用。进化算法的一个 重要特征是适应值函数是可自动计算的，然而有时研究的问题涉及了人的情感、偏好等主观因素，使得 指导进化算法搜索的适应值函数很难获得，进化算法的应用受到了限止。为解决这个问题，可以用人的 主观评估来代替适应值的自动计算，这就构成了称之为交互式进化计算的优化方法，从而大大扩展了进 化算法的应片】范围。交互式进化计算已经应用于多准则决策、人脸识别、个性化情感检索和服装设计等 领域。 1 3 虚拟角色面部表情简介 人脸表情动画是计算机图形学、虚拟现实、人机接口、情感计算、认知科学、计算机游戏等请多领 域中的研究热点课题，模拟具有真实感的虚拟人面部表情是人们一直追求的目标。自从p a r k e 在文献p j 中 率先提出了人脸表情动画模型以来，人们已经提山了许多模拟人脸表情动画的方法1 7 。1 ”。 情绪是人类进化的产物，情绪的形式化研究是当前情感计算一个研究热点。白达尔文以来，有关人 类情绪的研究表明，人类拥有适应环境的基本情绪状态，较为公认的是高兴、恐惧、惊奇、悲伤、厌恶、 愤怒这6 种摹本情绪i 】”。但在现实生活中一个人的情绪状态往往是复杂的，在某个时刻，一个人可 以显示山多种情绪特征，即多种基本情绪在时间上重番。 在动画电影中，专家知识包括各种形式的情感表达l l s l 二级表情和手势，输入的条什包括有认知情 感的状态【1 w ，环境和个人的不同个性，而相应地输山即为动画中虚拟角色的表达情感。先前的相关研究i ： 作侧重丁合成代理，同真实角色烈向，实时面对面地接触，它们中没有一个系统能够熟练的使_ l j 规则产 生输山。一些框架已经对提供了学习和解决问题的能力，但它们没有一个席_ l j 丁| 面部表情产生这个领域。 那么就产生了如何对虚拟角色面部表情建模这一新的课题。 1 4 模糊系统简介 人类住解决问题时所使川的人苗知识是经验性的，它制通常是川语言信息来描述的。而传统的犟 设计席方法只能利刚数据信息而无法使川语言信息。冈此，必须建立起一挡套全新的方法米充分利川 语言信息和数据信息，从而达剑更女r 的解决麻川问题的目的。模糊集理论为人类提供了能充分利用语言 信息和数据信息的有效j ：具。模糊系统的理论与技术是住模糊集理论的基础上发展并渐趋完善的。 白适应模糊系统的理论与技术是指具有学习算法的模糊逻辑系统，这里的模糊逻辑系统是由服从模 糊逻辑规则的一系列“l f - l h e n ”规! l ! l j 所构造的；而学习算法则依靠数据信息来调整模糊逻辑系统的参数。 自适应模糊系统可以被认为是通过学习能白动产生其模糊规则的模糊逻辑系统。臼适应模糊系统是一个 全局逼近器，这就保证了它可r 泛地川丁建模、白动控制等领域。 模糊控制作为智能控制的新技术止日赫与人l ：智能领域的其它技术相结合，如模糊控$ 1 j 币l 神经网络 相结合构成神经模糊系统印, 2 1j 。模枷系统能够解决许多廊川领域中的不同问题。目前众多学者对增加模 糊系统学习和白适麻能力的研究兴趣不断增加。神经模糊系统和遗传模糊系统，将软计算领域中的神经 网络平遗传算法与模糊系统的近似推理方法相结合，成为目前两个晟成功的模糊系统。神经模糊系统是 模糊系统与神经网络的有机结合，它吸取- 二者的k 处，利_ l h 神经网络的学习方法，根据输入、输出样本 3 江南大学硕上学位论文 自动设计和调整模糊系统的控制规则，组成比单独的神经网络或单独的模糊系统性能更好的系统。 模糊系统是以模糊逻辑为基础，模仿人的模糊综合判断推理来处理常规方法难以解决的模糊信息处 理的难题，已经广泛应用于各种工业和生活的智能产品中。当前，模糊系统的理论与技术正在向纵深发 展，预计不久的将来，模糊系统的理论与技术将会发展成为一门全新并且完善的工程应用设计方法。 1 5 本文研究课题 本文阐述了一种在三维计算机动画影片中训练虚拟角色面部表情，从而使其更加符合导演期望达到 的效果，探讨了如何训练虚拟人物面部表情这一新课题，提出了将模糊神经网络应用于虚拟人物面部表情 的建模研究，并用b p 算法、遗传算法和交互式进化计算分别训练模糊神经网络。 1 5 1 论文范围与课题意义 本文主要讨论利用神经网络的学习方法，根据动画导演的专家知识来设计训练样本，这些样本经过 模糊神经网络的某些特定算法的反复训练，根据输入、输出样本自动设计和调整模糊系统的控制规则， 满足一定的条件后，虽扁输出动画导演期望得剑的虚拟角色面部表情。 从学术意义币j 整个国吣经济而言，虚拟角色面部表情训练具有广泛的麻j l j 前景和商业价值，特别是 在计算机动画电影的制作中，根据动画导演的专家知识，通过多层模糊神经网络的训练来达剑接近专家 的水平。虽然以本文所述的方法训练的结果与专家期望达剑的结果还有些细微的误筹，但是一日以这种 方式米训缘虚拟角色面部表情，那么整个动画电影制作所需要做的i ：作就会人幅度减少，从而降低了电 影产品的j ：作苗和成本，这是一个实川而重要的研究课题。 1 5 2 本文主要工作 本文土要研究i ：作是建立在前人对虚拟角色面部表情建模i ：作的基础上的，本人所做的土要i ：作如 f ： 分析了当前虚拟角色面部表情建模当中的土要神经网络模型。 根据动画导演的专家知识米定义模糊规则，从而得剑训练样本，再对这些样本数据进行反 复训练。 使川b p 算法、遗传算法平| i 交互式进化计算分别与多层神经网络模掣结合，通过调整模糊 神经网络中的隶属度函数参数午真值参数，使系统尽可能的模拟和逼近导演的专家知识。 达剑虚拟角色面部表情建模的目的。 1 5 3 内容组织 各章竹内容分布如f ： 第一章是绪论，土要介 “了课题的相关背景。我”j 从概念、特点、发展历史这二个角度首先介纠了 模糊神经网络，升较为透彻地分析了国内外进化计算的研究现状。然后结合模糊系统和虚拟角色面部表 情引山本文所要探讨的土要问题即基t - g a 算法的虚拟角色面部表情建模问题。 第- 二章从本文虽终研究目的角度山发，结合实践主要介纠了一种利_ l i j 模糊神经网络与b p 算法相 结合，在三维计算机动画电影中训练虚拟角色面部表情的方法。 第二章开始探讨基丁g a 算法的虚拟角色面部表情建模问题。本章士要从提高速度的角度山发，提 出了使川遗传算法( g a ) 训练模糊神经网络，在保证精度的前提r 能够快速收敛，与b p 算法相比，在 速度上提高了，且克服了b p 算法陷入局部最优的缺点。 第四章是第二章的延伸。本章将交互式进化计算( i e c ) 麻川丁三维计算机动画影片中训练虚拟角 色面部表情的方法探讨了如何训练虚拟角色面部表情这一新课题，提出了将模糊神经网络麻川丁虚拟角 色面部表情的建模研究，并h 遗传算法( g a ) 结合i e c 训约、模糊神经网络。 第元章是结论同时介纠了今后需要进一步完善的j 作。 4 第二章基于模糊神经网络的虚拟角色表情的训练 第二章基于模糊神经网络的虚拟角色表情的训练 本章介绍了一种利用模糊神经网络与b p 算法相结合，在三维计算机动画电影中训练虚拟角色面部 表情的方法。这套方法是通过有效地调整基于专家系统的知识库的规则来控制虚拟角色的表现特征的。 知识库的语言规则存储了人的情感、个性和演艺知识等参数，这些参数用于通过模糊推导产生动画当中 所需要的参数。可以肯定的是，仅仅由模糊专家系统得到的结果并非动画导演晟理想的需要表情，然而， 动画导演可以在有监督学习的帮助下，通过对b p 神经网络中的模糊规则的很好的调整，所产生的表情 必然能令导演更加满意。在这里，模糊规则的调整是通过我们使用的模糊集的隶属度函数的参数来进行 的。不同的动画导演都可以使_ 【 j 这套系统来改变知识库系统，从而产生适台他们自己定义的规则的虚拟 表情。 2 1 模糊系统的基本特性 目前有许多种遗传模糊系统，基于规则的遗传模糊系统是最常用的一种，还有其他的类硝，如遗传 模糊神经网络系统、遗传模糊聚类系统。神经模糊系统是利刚神经网络结构实现模糊推理神经模糊系 统既具有1 f 线性控制作用，又具有神经网络的学习和白适应能力。在设计神经模糊系统时通常采_ l l j 聚类 学习算法获得模糊规则如模糊c 一均值聚类算法、k m e a n 方法、虽近邻聚类算法等1 2 2 2 3 1 。 模糊控制与神经网络是目前智能控制中最活跃也是虽富有成果的领域。模糊逻辑适合表达模糊或定 性的知识其推理方式类似丁| 人的思维模式，但一股来说模糊系统缺乏白学习和臼适廊能力。神经网络 具有升行计算、分布式信息存储、容错能力以及具备白学习白适麻的能力，能对样本进行有效的学习 但存储的信息难以理解。模糊神经网络结合了模糊控制与神经网络两者的优势使控制系统具有模糊推 理平白学习白组织的能力。 文【2 4 i 提山的变结构模枷神经网络控制器通过在训练中不断调整网络结构，一方面提高了网络的收 敛速度找剑网络的最佳结构；另一方面义可以有效地克服一般神经网络容易陷入局部极值的难题。 这里，我们使川的模糊专家系统如图2 1 所示。 模糊控制器 障 推理机 囊1 幽2 1 模糊专家系统 模糊规则库由i f t h e n 规则集合组成，它是模糊系统的核心，具体形式为式( 2 一1 ) ， r ：f ) 如果j 为一? 且j 。为a ：，则y 为b ( f - 1 ，2 ，n ) ( 2 _ 1 ) 式( 2 1 ) 中，a 1 1 8 。分别是u r ，v 月上的模糊集合，x ；x ( x 1 ，工2 ，z ) 。和y y 分别是模 糊系统的输入和输山( 语言) 向堵。 在这里我们的虚拟角色专家系统是基丁模糊规则的，我们可以通过在知识库中增加和删除前什或 后1 ，| ：米改变模糊规则，也可以通过在知识库中修改前什或斤t i 的模糊集参数米达剑相同的目的。由丁增 加和删除前什或后r i ：会给虚拟角色面部表情带来廿常人的变化我们选择了修改前r l 。的模糊集参数，它 会给专家规j j ! l j 带来更女r 的调绍佧_ l j 。我们_ l i j 丁训练的模糊神经专家系统如幽2 2 所示。 5 江南丈学硕士学位论文 图2 2 用于训练的模糊神经专家系统 2 2 多层模糊神经网络模型的拓扑结构 色 数 本章及以后两章中所j l f j 剑的多层模糊神经网络的拓扑结构如幽2 3 所示。 l m i l - - - - - - - + 1 2 - - - - + i n + 幽2 3 虚拟角色面部表情建模的多层模枷神经网络模喇 o i + o m + 图2 3 所示的多层模糊神经网络有五层依次命名为输入层( h ) 、输入隶属度层( l m ) 、规则层 ( l r ) 、输山隶属度层( 1 a ) 和输山层( l o ) 。h 层接收输入向昔j ( 1 1 ，1 2 ，i n ) ，i 对麻单个的训练 样本，它表示输入o c c 情感l 。j ( 如o c c f e a r ，o c c h o p e 笆) 和人物个性( 如e m s t a b i l i t y ，e x t r o v e r s i o n 等) 等 影响要素的组台。l m 层接受来白b 层的输入变餐，再根据定义在输入变堵上的隶属度函数，得出相对 麻的输入变茸的隶属度函数值，作为l m 层的输山。k 层把l m 层的输出作为白己的输入再根据由动画 导演的专家知识定义得剑的规则集米确定所采删的具体规j j ! l j 升把自己的输山数据作为h 层的输入。 h 层根据规! i l j 集确定所采川的具体规则得剑相对麻的定义在输出变苗上的模糊集的最人值，并把它作 为l 0 层的输入。l 0 层根据定义在输出变鼙上的隶属度函数垌i 臼身的输入得剑具体的输出向颦o ( o l ，0 2 ，o n ) ，它表示输山表达情感的拌度( 如o u t f e a r ，o u t a n g e r o u t s a d n e s s 等) 。 6 第二章基于模糊神经网络的虚拟角色表情的训练 2 3 网络参数的定义 设输入变量的个数n ，输出变量的个数i l l ，根据文献闭，对于每一个输入变量i ：，15 isn 和输出变 量o ，1 s fs m ，分别对应有五个模糊集o w ，l o w ，m e d i u m , h i g h 和v h i g h 输入层神经元个数n l = n ， 输出层神经元个数n o - - - n ，输入隶属度层神经元个数n m = s n ，输出隶属度层神经元个数n t = 5 n ，规则层 神经元个数n r 由输入变量个数及模糊集个数决定，取n r = 5 n ，它用来表示动画电影导演的专家知识， 由一系列的模糊规则组成在模型中，规则鼢的形式为： r 。：，- 一卅& - 爿毛一) d 1 一c ：& o r o c k r 2 ：1 1 - , 4 2 1 l 爿磊= 0 12 c ：o n o - c m 2 ( 2 2 ) r n i ：，l 一彳，& & 。爿篇= o i = 掣& o = 馏 式( 2 2 ) 中，爿j 和c ：分别为规则r r 中的输入变鼙l i 和输出变量0 0 的模糊集。 训练样本参数时的学习过程采用的是有教师学习，当实际的输出结果和止确的期望输出( 教师信号) 有误筹时，系统将通过白动调y 机制，调整模糊规! 1 1 1 j 前什部分中定义在输入变鼙上的二角隶属度函数中 的三个参数c m s l m ，s r m ( 见| 玺| 2 4 ) ，从而达剑变相地调整备层之间权值的目的，向减少误差的方向改 变权值，经过多次训练使得误差值逐渐趋近丁| 零，最后与止确结果相符合。 2 4 定义在输入变苗上的模糊隶属度函数 各层之间的权值定义如f ： 1 ) 1 4 l m 层之间的连接权值w i 。定义为： 彬。=加川吒咚驯 0 ，o t h e r w i s e 式( 2 3 ) 中，月? 表示定义在第j 个输入变鼙上的模糊集的数鼍。 2 ) l m h 层之间的迮接权值w 。定义为： 7 t 2 3 ) 江南人学硕上学位论文 = 思篡巳撇呱一 c z 4 ， 式( 2 - 4 ) 中，l m 表示与l m 层的神经元相对应的输入模糊集，t s e t s ( ) 表示模糊规则集中的规则 r 的前件部分，即似一t 。 3 ) l t - l r 层之间的连接权值、】l ，n 定义为： 矽：p “s e tt 已洲哪( 7 ) ( 2 - 5 ) “ l0 ，o t h e r w i s e 式( 2 - 5 ) 中，表示与l r 层的神经元相对应的输出模糊集，c o n i s ( r ) 表示模糊规则集中的规则r 的后件部分，即仁j 。c 乞j 。 4 ) l - , r - l 0 层之间的连接权值w 。定义为： ，耽：1 o ，价【1 驴o - i 驯o 。：石， 【0 , o t h p 刑觇 式( 2 - 6 ) 中，月：表示定义在第j 个输出变繁上的模彻集的数鼙。 综上所述，这个多层模糊神经网络模型可以_ l i j 概括为：对一个虚拟角色输入一定程度的o c c 情感， 人物个性等参数，综合这些参数再根据动画电影导演的专家知识，利_ l i j 该模型可以推理出相应的情感 2 4b p 神经网络的训练 2 4 1b p 神经网络和反向传播算法 本章_ i j - j 是出了一种基丁反向传橘( b a c kp r o p a g a t i o n 简称b p ) 神经网络的训练虚拟角色面部表情 的方法。根据动画导演的专家知识米设计训练样本，选择合理的虚拟角色面部表情革化数据作为学习样 本，对样本的输入平j | | 】望输出做模糊化处理，对b p 神经网络进行学习雨l o i i 练。基丁展人隶属，芟原则， 对输入特征向封进行分类和晕化。神经网络蹬计中加入惯性项，适应性调整学习速率，以加快网络训练 的收敛速度。实验结果验证了所提出方法的有效性。 反向传插算法是一种单向传橘的多层前向神经网络其结构为除输入输山结点外有一层或多层隐 含结点，同层结点间无任何联接由丁同层结点上无任何耦合故每层结点的输山只影响f 一层结点的 输出。冈此，可视b p 网络为从输入剑输5 的高度1 f 线性映射，它也是目前麻川最广泛的种模犁。b p 算法是适合丁多层神经元网络的一种学习，它是建立在梯度f 降法的基础上的。b p 算法系统地解决了多 层网络中隐含单元连接权的学习问题，还对其能力和潜力进行了探讨。误筹反向传橘算法的土要思想是 把学习过程分为两个阶段：第一阶段( 止向传播过科) ，给山输入信息，通过输入层经隐含层逐层处理 并计算每个单元的实际输山值：第二阶段( 反向过料) ，若在输山层未能得剑期望的输山值，则逐层递 i 门地计算实际输山与删望输山之筹( 即误筹) 以便根据此筹凋1 i 权值贝体些说，就是可对每一个权 重计算山接收单元的误差值与发送单元的激活值的积。冈为这个积利误筹对权重的( 负) 微商成止比( 义 称梯度r 降算法) 把它称作权重误筹微商。权重的实际改变可由权重误筹微商一个模式一个模式地计 算山米，即它们可以在这绢模式上进行累加。 最初由w e r b o s 开发的反向传橘训缌算法是一种迭代梯皮算法，_ l j 丁求解前馈网络的实际输山与期 望输山间的最小均方著值。b p 网是一种反向传递升能修止误筹的多层映射网络。当参数适当时，此网络 8 第二章基于模糊神经网络的虚拟角色表情的训练 能够收敛到较小的均方差，是目前应用最广的网络之一。b p 网的短处是训练时间较长，且易陷于局部极 小。 b p 网络的训练就是通过应用误差反传原理不断调整网络权值使网络模型输出值与己知的训练样本 输出值之间的误差平方和达到最小或小于某一期望值。虽然理论上早已经证明：具有1 个隐层( 采用 s i g m o i d 转换函数) 的b p 网络可实现对任意函数的任意逼近。但遗憾的是迄今为止还没有构造性结论， 即在给定有限个( 训练) 样本的情况下，如何设计一个合理的b p 网络模型并通过向所给的有限个样本 的学习( 训练) 来满意地逼近样本所蕴含的规律( 函数关系，不仅仅是使训练样本的误差达到很小) 的 问题，目前在很大程度上还需要依靠经验知识和设计者的经验。因此，通过训练样本的学习( 训练) 建 立合理的b p 神经网络模型的过程，在国外被称为“艺术创造的过程”，是一个复杂而又十分烦琐和困 难的过程。 由于b p 网络采用误差反传算法，其实质是一个无约束的非线性最优化计算过程，在网络结构较大 时不仅计算时间长，而且很容易限入局部极小点而得不到最优结果。目前虽已有改进b p 法、遗传算法 和模拟退火算法等多种优化方法用于b p 网络的i l l l 练( 这些方法从原理上讲可通过调整某些参数求得全局 极小点) ，但在应用中，这些参数的调整往往因问题不同而异，较难求得全局极小点。这些方法中应用 晟广的是增加了冲营( 动颦) 项的改进b p 算法。训练神经网络的首要和根本任务是确保训练好的网络 模玳对非训练样本具有好的泛化能力( 推广性) ，即有效逼近样本蕴含的内在规律，而不是看网络模璎 对训练样本的拟合能力。从存在性结论可知，即使每个训练样本的误差都很小( 可以为零) ，并不意味 着建立的模型已逼近训练样本所蕴含的规律。闳此，仅给出训练样本误差( 通常是指均方根误差r s m e 或均方误差、a a e 或m a p e 等) 的人小而不给山j t i j i i 练样本误差的人小是没有任何意义的。 人l ：神经网络是一种1 r 线性的映射方式，它将输入的特祉向苗映射剑输出分类结果并可依照其分 类的误差人小或某些能昔函数来调粘网络内部的权值，使其达剑收敛。神经网络可模仿人类学习功能， 具有对问题的了解要求较少：可实现特征空间较复杂的划分；适_ i 高速并行处理系统实现等突山的优势， 更适合解决模式识别问题。反向传橘学习算法是阶层型神经网络中的一种有敛的学习算法，是监督式学 习的一种i 2 “。b p 神经网络可实现从输入空间剑输出空间的1 f 线性映射，若输入1 7 点有n 个，输山仃点 有i 1 1 个，则实现的是n 维至m 维欧氏空间的映射。b p 神经网络利川最优化理论中的梯度f 降法，调 整网络中的权值，将实际输山与预期输山之间的误筹逐步虽小化，从而达刨预期的学习目的。从数学角 度看，b p 神经网络把一组样本的l o 问题变为1 f 线性优化问题，经迭代运算求解权值，使误筹信号达 到要求的程度。尤其适i j 丁有类别标识的模式识别问题。传统的b p 算法的土要缺点是收敛速度慢，如 果参数选抒不合理很容易陷入局部极小而不收敛，冈此需要对传统b p 算法进行改进。b p 网络的学习 速度需随着训练循环次数的增加而减少，训练次数愈多网络愈接近局部最小值，因此麻将学习的步长 减少使其趋近最佳值，以免其在加权空间中振荡。网络训练中权值的修止计算需加入惯性项以加速其 收敛。冈此，实现虚拟角色面部表情参数餐化的b p 网络设计中采川了变步长且凡有阻尼项的权值调整 算法。 2 4 2 原理及理论推导 为了训练神经网络，我们使_ l f 】了能量函数的概念。能苗函数是对所有的输出变草的j j 望输山值的均 方著。我们也可以认为它是一个二角隶属度函数，就如同我们的虚拟角色专家系统的所有模糊集都有一 个三角隶属度函数一样。在这里，我仃j 使_ l i j 的是有监督的学习形式。能苗函数e 定义为： e - 三耋( 见训2 九 协， 式( 2 - 7 ) 中，d 。和o o 分别是输山变量0 的j l l j 望输山值和实际输出值，九为根据每一个输山变苗 的重要手￥度而为其分配的权值，例如住一个具有二个输山变苗的系统中中，如果第一个参数1 卜常重要 我f j 就可以为其分配的权值分别为o 8 ，0 1 ，0 1 ；若分别分配为0 3 3 0 3 3 ，o 3 3 。那么我“j 就认为这二 个输山变鼙重要程度相同。 9 练之后，这些参数都会有一个偏移量，分别定义为a c ，、6 s l , 和a s r ，则有下列公式： 巳- 叫面o e 越。- 一町面o f , 她- 叫嚣 式( 2 8 ) 、( 2 - 9 ) 、( 2 1 0 ) 中，7 被称为学习率。 丝一可以进一步展开如下 a c 旦冬堕旦 o c m 白o o od q 冬堕冬监互 鲁0 0 智o t , o c 冬堕冬堡每堕堕 缶0 0 0 白a t ，台a r ，o c m 一羹堕0 0 0 萋监o r , 誊等瓮盟o c = 螽台台嘏，肌。 同样地，对丁左偏移龌s l m 和右偏移昔s r m ，我们可以得刨如f 的公式 旦七兰监 o s l 。台0 0 0o s l 。 冬丝冬监丑 角a o o 智o r , o s l 。 冬堕冬一0 0 0 警一o r , 盟 台o o o 台嵋台a bo s l 。 冬堕冬一0 0 0 冬一o r , 盟盟 台o o o 自旺角a r ，8 m 。o s l 雨i 旦。冬旦堕 o s r 。台0 0 0o s r ， 冬旦冬堑旦 身a o 。智d i ：d s r 。 ，每旦每兰蔓警堕堕 台a o 。台a 正白o r ，o s r 。 。y n o 二! 了i q t 丝警堕卫生型生 台0 0 。台旺白o r ，a m 。o s r ( 2 - 8 ) ( 2 - 9 ) ( 2 1 0 ) ( 2 1 1 ) ( 2 1 2 ) ( 2 1 3 ) 翌三兰量! 堡塑堡丝