（管理科学与工程专业论文）基于最大熵原理的投资项目风险分析.pdf

中文摘要 中文摘要 由于投资项目的实际效果与目前的预测不可能是完全一致的，因此对项目 偏离预期目标的程度和发生偏离的概率的分析是十分必要的。现有的风险概率 分析方法包括解析法和模特卡罗模拟技术。但由于受解析法与蒙特卡罗模拟技 术本身局限的制约，其使用范围以及使用效果受到一定影响。 为了弥补概率分析方法在投资项目风险分析中的不足，本文从熵的角度， 结合前人对熵的研究成果，将热力学中熵的概念引入风险分析，提出一种新的 风险分析方法基于最大熵原理的投资项目风险分析。该方法采用最为典型 的三角分布来描述投资项目经济活动中存在各种风险因素，充分考虑各种风险 因素之间的相关程度，利用多元随机变量函数的性质，求出投资项目评价指标 的特征数字值。最后，应用最大熵原理并结合非线性优化算子求出评价指标的 概率分布函数。同时，为了使该方法操作简单、计算方便，采用m a t h c a d 语言 在计算机上编程实现辅助计算。 由于该方法不要求各风险因子独立，并且按最大熵原理求出的概率分布函 数是投资项目评价指标的屠佳分布，所以该方法适合于大型复杂投资项目的风 险分析，能够为项目决策者提供较为准确的信息，具有一定的理论和实用价值。 关键词：投资项目风险分析熵最大熵原理 a b s t r a c t a b s t r c t d u et ot h ei n c o n s i s t e n c yb e t w e e nt h ef u t u r er e s u l ta n da d v a n c ef o r e c a s to f , i ti s v e r yn e c e s s a r yt oa n a l y z e t h e d e g r e e o fd e v i a t i o nf r o mi n v e s t m e n t g o a l a n d p r o b a b i l i t yo f s u c hd e v i a t i o na tp r e s e n t ，r i s k sp r o b a b i l i t ya n a l y z i n gm e a n si n c l u d e a n a l y t i cm e t h o da n dm c ( m o n t ec a r l o ) t e c h n i q u e h o w e v e r ，b e c a u s eo fs o m e d e f e c t si nt h ea b o v et w o m e a n s ，t h e y a r ea p p l i e di nt h el i m i t e dw a y i no r d e rt or e m e d yt h ed e f e c t si nt h ea b o v et w om e a n s ，t h i st h e s i sa t t e m p tt o i n t r o d u c et h ee n t r o p yc o n c e p ti nt h e r m o d y n a m i c si n t of i e l da n db r i n gu pa n o t h e r n e wr i s k s a n a l y z i n g 。i n v e s t m e n ta r o j e c tr i s k sa n a l y z i n gm e t h o db a s e do n t h em a x i m u m e n t r o p yt h e o r y t h i sm e t h o dd e s c r i b e sa l lk i n d so fr i s k sf a c t o r s e x i s t i n gi n t h el i f e c y c l eo fi n v e s t m e n tp r o j e c tw i t ht h em o s tt y p i c a ld i s t r i b u t i o n f u n c t i o n t r i a n g u l a rd i s t r i b u t i o n t a k e st h ec o r r e l a t i o nb e t w e e nr i s k sf a c t o r s i n t oa c c o u n t , m a k e su s eo ft h ep r o p e r t i e so f m u l t i p l er a n d o mf u n c t i o n ，w o r k so u tt h e c h a r a c t e r i s t i cn u m b e ro fe v a l u a t i n gi n d i c a t o r f i n a l l y ，a c c o r d i n gt ot h em a x i m u m e n t r o p yt h e o r y , u t i l i z i n gn o n l i n e a ro p t i m i z a t i o nm e t h o d ，t h ep r o b a b i l i t yd i s t r i b u t i o n f u n c t i o no f e v a l u a t i n gi n d i c a t o rc a nb ef i g u r e do u tm e a n w h i l e ，i no r d e r t of a c i l i t a t e a p p l y i n gt h i sm e t h o d ，t h e m a t h c a d l a n g u a g e i sa d o p t e df o r w r i t i n gar i s k sa n a l y z i n g p r o g r a m t op r o v i d ea s s i s t a n c e t h i sm e t h o dd o e s n tr e q u i r et h ei n d e p e n d e n c eb e t w e e nr i s kf a c t o r s ，a n dt h e p r o b a b i l i t yd i s t r i b u t i o nf u n c t i o no fe v a l u a t i n gi n d i c a t o ru n d e r t h em a x i m u m e n t r o p y t h e o r yi st h em o s ta p p r o p r i a t eo n et h i sm e t h o di so f t e nu s e df o rr i s ka n a l y z i n go f l a r g e s c a l ec o m p l i c a t e di n v e s t m e n tp r o j e c t t h e r e f o r e ，i th a st h e o r e t i ca n dp r a c t i c a l v a l u e k e y w o r d s ：i n v e s t m e n t p r o j e c t r i s k sa n a l y z i n g e n t r o p y m a x i m u m e n t r o p yt h e o r y 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作和取得的 研究成果，除了文中特别加以标注和致谢之处外，论文中不包含其他人已经发表 或撰写过的研究成果，也不包含为获得墨叠盘堂或其他教育机构的学位或证 书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中 作了明确的说明并表示了谢意。 学位论文作者签名舶战签字隰加弓年占月叫日 学位论文版权使用授权书 本学位论文作者完全了解叁垄盘鲎有关保留、使用学位论文的规定。 特授权墨洼盘鲎可以将学位论文的全部或部分内容编入有关数据库进行检 索，并采用影印、缩印或扫描等复制手段保存、汇编以供查阅和借阅。同意学校 向国家有关部门或机构送交论文的复印件和磁盘。 ( 保密的学位论文在解密后适用本授权说明) 学位论文作者签名： 批斌 签字隰码年6 月7 日 导师签名捌东弛 签字日期：弘冶弓年 ”适用于不可逆过程。 对于一个孤立或绝热系统，a q = 0 ，由( 2 6 ) 式有：d s 0 。即当热力学 系统从一个平衡态经绝热过程到达另一个平衡态，它的熵永不减少。如果过程 是可逆的，则熵值不变；如果过程是不可逆的，则熵值增加。 第二章熵与最大熵原理 对于一个孤立系统来说，它和外界不发生任何相互作用，因而在其中所进 行的任何过程必定是绝热过程，它的熵总不减少。这就是所谓的熵增加原理。 21 2 熵的统计解释 克劳修斯提出熵的概念以后，奥地利物理学家玻尔兹曼从分子运动的角度 研究了熵，发现某一宏观态所对应的微观态数目w 的对数正好与热力熵s 成正 比，提出了著名的玻尔兹曼关系式： s = k i n w( 2 7 ) 式中，k 为玻尔兹曼常数，其值为1 3 8 1 0 3 j k 。玻尔兹曼关系式将熵s 与微观态数目形联系起来，在宏观与微观之间架起了互通桥梁，即说明了微观 态数目形的物理意义，又给出了熵函数的统计解释或微观意义，这一统计解释 为熵从热力学进入其它科学领域开辟了道路，意义深远。 熵增原理认为：孤立系统内部的过程向熵增加方向发展，直至封闭的熵最 大为止。玻尔兹曼关系认为：系统向微观态数目增加的方向演变，直到系统微 观态数目最大为止。微观态数目越多的状态出现的几率越大，平衡态是微观态 数目最大的最可几状态。因此，最大熵是平衡的度量。 不难理解，熵是系统可能拥有微观态数目的量度。系统微观态数目越多， 表明系统内部运动越多样化，越混乱无序，熵越大；反之，系统微观态数目越 少，系统内部运动越单一化，越有序，熵越小。极端情况下，系统只有一个微 观状态，即w = i ，熵也就为零，系统处于绝对温度零度时，就是如此。 联系到微观状态数，容易看出，微观状态数的多少就是混乱度( 无序度) 的大小，即微观态的多少反映了系统混乱度的大小。由玻尔兹曼关系式知，系 统某一状态熵的大小，对应于该宏观态所包含的微观态数目的多寡。因此，熵 增的过程正是系统无序度增大的过程，熵小即系统无序度小，熵大就是系统混 乱度大。由此不难看出，玻尔兹曼关系式揭示了熵的本质：熵代表了一个系统 的无序程度，也就是说，熵是系统混乱度( 或无序度) 的量度。 实践告诉我们，不仅热力学第二定律的实质是如此，就是日常生活中，对 待任何事物若是任其自然发展，混乱度也是一定有增无减的。 这里我们说微观状态数矽是无序的量度，则它的倒数1 矿可作为有序的 一个量度。这样，由于l w 的对数等于w 的负对数，即：i n 去= 一i n w ，于 是可将玻尔兹曼关系式写为： 一s ：k l n 土( 2 - 8 ) 形 对于这个带负号的熵，常称为负熵。熵既然是系统无序度的度量，负熵就 第二章熵与最大熵原理 可以成为系统有序度的度量。 2 1 3 信息熵 信息是对事物状态、存在方式和相互联系进行描述的一组文字、符号、语 言、图像或情态。信息要以相互联系为前提，没有联系也就无所谓信息，任何 事物都可作为信息源，事物的特征和状态是潜在的信息，信息的储存不过是延 续了的信息传输。这表明：“信息是一种相对的概念，它自身不能单独存在， 须依附于一定的载体，而且还要和接收者以及它所要达到的目的相联系，这就 开始成为信息”。信息在人类社会里与物质和能量同样重要，是人类赖以生存 的基本要素。 信息的特征在于能消除事情的不确定性。一般情况下，人们从不肯定变成 比较肯定到完全肯定，其实就是从不知道变成比较知道到完全知道，要实现这 个过程，必须收集信息，信息量较多就比较肯定，获得了足够的信息量，就变 成完全肯定。因此，在信息论中把信息定义为“消除不确定性的多少”，即 i ( 信息量) 一不确定程度的减小量 ( 2 9 ) 也就是说，人们收到一条信息之后，不确定程度减小的原因，是由于收到 信息前后概率空间的概率分布改变所致。 用以描述事物不确定程度的量，应具有这样的特点：当事件完全确定时， 它应为零；事件的可能状态或结果越多，它应该越大；如果可能结果数定， 当每种结果出现的几率相等时，不确定应取极大值，即事件是最不确定的。设 某随机实验a ( 随机事件) 的可能结果( 独立的) 为x j ，x 2 ，h ，则出现相 应结果的几率为p ，p 2 ，p n ，且只= 1 ，信息论引入 ”= 一只1 n 只 ( 2 1 0 ) i = l 作为随机实验4 先验地含有的不确定性的量度。 申农与维纳总结前人成果，强调了信息量概念。通过申农的研究，将信息 熵与统计熵概念相联系，引入函数 h = h ( e l ，只，只) = 一足只1 n 只 ( 2 - 1 1 ) i = l 作为随机试验爿先验地含有的不确定性的量度。式中日为信息熵或广义熵， 也称为申农熵，这是为纪念玻尔兹曼著名的日定理而取名；k 为常数，视选择 第二章熵与最大熵原理 度量单位而定：p f 为系统处于某种状态的几率。 随机实验a 结束后，因为我们可以对实验结果做出决定性的预言，而不存 在任何不确定性，即不确定程度为0 。所以，由公式( 2 9 ) 和( 2 1 1 ) 可以推 出： ( 信息量) = 日= 一k 只i n i , ( 2 1 2 ) 由此可见，信息熵具有这样的意义：在实验进行之前，它是实验结果不确 定性的量度；在实验完成之后，它是从实验中所得到的信息的量度( 信息量) 。 熵概念的这一推广，从而使热力熵进入了信息、生物、经济、社会等领域开辟 了道路。 若不确定事件可能出现的结果数为形且相应可能结果出现的几率p 相等， 即则上式( 2 - 1 1 ) 将成为 h = 一k i n p( 2 1 3 ) 或日= 足1 n w( 2 1 4 ) 将比例系数置视为玻尔兹曼常数丘，式( 2 1 4 ) 与式( 2 7 ) ( 热力学熵s 的表达式) 有完全相同的形式，可见信息熵公式( 2 - 1 1 ) 或( 2 1 3 ) 己将热力 学熵包含于本身之中。 当事件的可能结果数越大，每种可能结果出现的几率p 越小，由式( 2 - 1 3 ) 知，当事人在现实面前会越显得捉摸不定或无知。所以，从此意义讲，熵是无 知或缺乏信息的量度。 对于连续型随机事件五设它具有连续分布的密度函数p ) ，则该连续 型随机事件x 的熵值 i - l ( x ) = 一kip ( x ) l n p ( x ) d r ( 2 1 5 ) 为了进一步理解熵的性质和定义信息量，我们引进条件熵的概念。 设4 、占两个随机试验，以p p 砌作为试验a 出现结果口的条件下，试验 曰出现结果b ，的概率。根据概率论中条件概率原理直接得出试验爿出现a s 下曰 的熵为： 抒。，( 占) = 一p ( b ，a ，) l n p ( b ，a ，) ( 2 1 6 ) i = 1 mmh 称平均值日。) = p ( a ，) x h 。，( b ) = 一k p ( a ，) p ( b ，a ，) i n p ( b ，a ，) ( 2 一1 7 ) j = lj = l i = l 为在4 实现下试验占的条件熵。其具有以下几条性质： 第二章熵与最大熵原理 ( 1 ) h ( a b ) = h ( a ) + h 。( b ) 若a 和b 独立时，h 。( b ) = 胃) ，即h ( a b ) = 日( 爿) + 日( b ) 。同理可得 h ( a b ) = 日) + 日。( 4 )( 2 1 8 ) 这个性质称为熵的加法法则。 ( 2 ) h 。) 非负 若所有的p ( d ，) 0 ，当且仅当h 。) = o ( j = 1 , 2 ，m ) 时，h 。( 曰) = 0 才成 立。此时，还有h ( a b ) = h ( a 1 。 这个结论表明只有当试验4 的任何结果都使试验四的不确定性消除时，才 有。) = 0 ，此时4 的结果完全决定了b 的结果。 ( 3 ) h 。p ) h ( b ) 这个性质可以这样理解：因为试验4 结束以后，一般对试验b 的结果会增 加了解，从而消除了部分不确定性。因此，) 一h 。( 司为试验a 结束之后试 验占的不确定性的减少量，即由于得知试验4 的结果从而获得有关试验b 的信 息，故此可以定义试验爿的结果中有关试验b 的信息量为 i ( a ，曰) = h ( b ) 一h 。( b )( 2 1 9 ) 当a 与占独立时，( 4 ，b ) = 0 ，即试验4 的结果中不包含b 的任何信息量。 如果考虑一个特殊情况：试验4 就是试验占，则日。( b ) = h 。( b ) 。但因为试 验爿结束之后，试验b 已不存在任何不确定性，故日。) = 0 ，依据公式( 2 1 9 ) 有 i ( b ) = h ( b ) 一h 。( b ) = h ( b ) ( 2 2 0 ) 这个结果说明一个随机试验关于它自己的信息恰好等于它的信息熵，因而， 我们可以说熵就是信息量。 第二章熵与最大熵原理 2 2 最大熵原理 2 2 1 最大熵原理的含义 申农提出的信息熵的概念很好地解决了随机事件的不确定性程度的度量问 题，但没有解决随机事件的概率是如何进行分配的问题。设想有一个可观测的 概率过程，其中的随机变量z 取离散值聊，托，h ，如果从观测的结果知道 了这个随机变量的均值、方差等特征值，怎样才能确定它取各离散值的概率b ， p ，b 呢? 一般地，满足可观测值的概率分配，可以有无限多组。那么究 竟应当选哪一组昵? 即在什么意义下，所选出的一组概率才是最可能接近实际 的呢? 在项目决策实际中，有些随机事件不能直接计算其概率，也无法知道其 频率，通常只能取得与该随机事件( 或随机变量) 有关的一个或几个平均值， 从理论上讲，对于给定的随机变量，如何获取最为合适的一个分布呢? 1 9 5 7 年，e t j a y n e s 在“信息论与统计力学”一文中，提出一个选择准则： “当根据部分信息进行推理时，必须选择这样一组概率分配，它应具有最大的 熵，并服从一切已知的信息。这是我们能够做出的唯一的无偏分配；使用任何 其它分配，就等于对原来没有信息做了随意假定”。e t j a y n e s 建立的这一统 计推理准则，被称为最大熵原理，或者极大熵准则。尽管这个准则在性质上也 有主观的一面，但却是一个最“客观”的主观准则。因为，由此得出的估计， 人为偏差最小。 最大熵方法对于构造概率密度函数来说，是一种有价值的方法。按照极大 熵准则，人们应该挑选在一定约束下( 常常是某些与随机变量有关的平均值) 使得熵( 或条件熵) 能极大化的那种分布作为选定的分布。使用这个准则，先 验信息( 己知数据) 将构成求极值的问题的约束条件。由最大熵准则得到的概 率分布称为最大熵分布。 应用最大熵准则构造先验概率分布有如下优点：首先，最大熵的解是最超 然的，即在数据不充分的情况下求解，解必须和己知的数据相吻合，而又必须 对未知的部分做出最少的假定；其次，根据熵集中原理，绝大部分可能状态都 集中在最大熵状态附近，因此，用最大熵法所做出的预测是相当准确的；第三， 用最大熵法求得的解满足一致性要求：不确定性的测度( 熵) 与试验步骤无关。 最大熵方法的这一宝贵性质来源于推导熵函数的合成法则。 用最大熵准则设立先验分布的理论根据由s as m i t h 从数学上进行了证明， 其思路是把随机性决策问题作为对策问题看待，即自然界选择一状态的分布使 期望损失极大，而决策人选择一决策使此期望损失为极小，推导出在损失函数 第二章熵与最大熵原理 的集为适合特定条件的理想集的情况，这个极小化极大解的确能导致一概率分 布适合最大熵准则。 在概率论中，介绍各种概率分布函数及其性质是其重要内容，同时也介绍 这些分布常常适用于某些实际问题中。但很少仔细研究为什么某些自然现象遵 循或服从某种分布，中心极限定律也只是从数学角度证明了正态分布的情况。 难怪日本学者赤池弘次认为：统计学的课本往往被看作应用上有用方法的大杂 烩。极大熵准则正好可以解决这类问题。 2 2 2 最大熵原理的数学模型 离散型随机变量的熵公式如下 h 。= 一只i n i , ( 2 2 1 ) 且： 只= 1 只0 ( 2 2 2 ) i = 1 在不知只值而知风达到极大值，再加上具体的约束条件，就可以把只求 出。一般情况下，约束条件通常以变量z 的某种函数f & j 的平均值为已知值 得形式出现，再加上必不可少的式( 2 2 2 ) 。 假设有m 个约束条件( m h ) ，表示m 个x 的已知函数五j ，五j ， 南，都有事先确定的平均值日，f 2 ，二，即 e = 罗五( x ，) 只k = 1 , 2 ，研，且埘 胛 ( 2 2 3 ) 现在问题转化为在满足式( 2 2 2 ) 和式( 2 2 3 ) 的约束条件下，p ，都取何值 恰好使式( 2 2 1 ) 的熵日，达到极大值，为此还可以建立如下规划问题模型： n ( 脚) m a x ( 一只l n p i f 爿 n b = ( t ) 只 k = l ，2 ，m ，g t r n 聍 l - 】 只= 1 尸0j - 1 , 2 ，f 第二章熵与最大熵原理 求解此数学规划问题，用l a g r a n g e 乘子法去构造一个新函数，它是风与 常数a ，p ，鼻2 ，o oo 和风的如下线性关系 h 。一a p 。f 。一p 1 f 2 一- 一$ 。f 。 而依式( 2 2 1 ) 式( 2 2 3 ) h ，一a 以e ：】 = 一只1 n p = 杰只j 1 n 丢 f = t1 j z 由于x = l n e 5 ，上式可以改写成 一展 ( z ，) 尸 展 ( x ，) l h 。一a 一风e t 2 1 = 喜只 - n 毒+ ，n e 一2 + 喜，n e 一且 ( = 扣悟唧卜薹删t ， 类似，1 、等式l n x x 一1 ，将 t n l e x p 。一口一喜卢： c x ， ) j e 冲 一口一善展 c x ， 一 带入上式有 。一口一善孱e 善l , 1 f p lo，lfh一口一喜la(x，)一1i 。一口一孱e 1p ，l 一口一，) i 一 = 1t = l i 1 l = 】 il 此式可变为 h 。i 。p i 。l e x p 。 一口一喜殷 c 墨， 一 + 口+ 砉尻e 由于 是事先给定的函数，a 、鼻t 是待定系数，所以上式表明儡的值是 p ，( 净j ，2 ，：竹) 的函数。因为i n x x 一1 在x = l 时等式才成立，所以使上式 等号成立，t 1 取极大值时，应该有 专唧l 一口一善展 j j _ 1 第二章熵与最大熵原理 即 只= e x p l 一口一p 。l ( x ，) l f = 1 ，2 ，- 一，拧 ( 2 2 4 ) lk = ll 如果令各p j 恰好满足式( 2 2 4 ) ，则熵风达极大值，这样就初步找出极大 熵对只的要求。余下的是求出待定常数a 、口 ( t = ，2 ，埘) 。利用式( 2 2 2 ) 可将式( 2 - 2 4 ) 变成 e 1 e x p 【_ 届z ( x 。) 一尼五( 一) 一p j o ( x ，) 】- 1 i = 1 若令 e x p 【- 届( 一) 一屈 ( t ) 一p 。厶( 一) 】= p 。 f l i n e x p - f i l l l ( x 。) 一f l ：l ( x ，) 一- 一卢。厶( x ，) 】= 口 i - l lm i n 唧l 一尾 ( 量) = 】= llk = ll z = e 。( 2 2 5 ) z 在统计物理中称为配分函数，上式可写成 z = e x p l 一p 。l ( x ，) l ( 2 - 2 6 ) 用式( 2 2 5 ) 和式( 2 2 6 ) 带入式( 2 2 4 ) 就消去了口，使式( 2 2 4 ) 变成 只= 阱善棚 ) z 弦z ， 把式( 2 2 7 ) 代回约束方程( 2 2 3 ) 有 nl | | 以= 五( 畸) e x p l 一屏 ( t ) l z k = 1 , 2 ，m ，r m 聆 ( 2 2 8 ) 吲ll k = l j j 上式也可简化为 e ：i 8 1 n z 七：1 , 2 , - - , m 以2 瓦 忙( 2 2 9 ) 式中，r 、五j 都是已知值，因而真正的未知数是m 个口值，聊个方程应当 能解出m 个p 值。这样从原理上讲，就可以求出熵极大时的各个只值了。这时 熵极大值为 第二章熵与最大熵原理 日一= i n z + 履疋 ( 2 3 0 ) k1 由此可以说，在没有历史数据时，利用最大熵原理，加上具体的约束条件， 也能把未知的p j 求出。因此，最为关键的是约束条件的判断和选取。 为了把以上推导过程的基本关系揭示清楚，这里给出一个框图，即图2 1 。 概率分布必须满足的 条件：式( 2 - 2 2 ) 如果要求依式( 2 - 2 1 ) 表示 的熵函数达到极大值 推导 其概率分布恰好 遵守式( 2 2 7 ) 2 2 3 若干分布实例 针对特定问题要附加 的n 1 个条件：式( 2 2 3 ) 其熵值由式 ( 2 - 3 0 ) 算出 图2 - 1 熵最大的条件与结果 这里给出一些实例用以揭示如何在不同的约束条件下导出常用的若干概率 分布函数。 2 2 3 1 等概率分布 式( 2 2 2 ) 和式( 2 2 3 ) 是求熵极大的约束方程，如果约束条件仅有式( 2 2 2 ) ， 那么熵极大对应的概率分布是什么呢? 此时可以理解为在式( 2 2 3 ) 中，五( z 。) ；0 ，从而使式( 2 2 4 ) 变成 p 。= e 。 这表明熵极大时p ，应当是个常数( 各p ，相同) 。换言之，如果不附加进一 步约束，那么等概率的分布也就是熵最大的分布。 如果一个随机变量x 有聆个可以分辨的状态，那么每个状态的出现概率都 第二章熵与最大熵原理 相等时，这个离散变量的信息熵恰好达到极大值。依式( 2 2 2 ) 可得 p 2 l n 这就是各p ，相等时的概率值，而离散变量的信息熵则为 日一i n n 等概率分布是经常遇到的一种分布，它对应于约束最少情况下熵最大时对 概率的要求。统计物理中微观粒子处于各能级状态并无多少约束，因而各微观 态出现概率相等就成了它的基本假设。这种分布有时称为正则分布。 2 2 3 2 均匀分布 前回导出的熵最大时的概率分布是在离散场合f 得到的，如果把各公式中 的求和( ) 都改由( f a x ) ，而所有的概率( p ，) 改由概率密度p & j 代替， 那么离散场合的结果也可以用于求解连续场合。 与式( 2 2 1 ) 对应的连续变量熵公式变成 h = 一r p ( x ) l n p ( x ) 出 ( 2 3 1 ) b ，口是x 的上下限。与式( 2 - 2 2 ) 对应的是 广p ( z ) c & = 1 ，p ( z ) o ( 2 3 2 ) 与式( 2 2 3 ) 对应的是 五2 j 。f k ( x ) p ( x ) d x k = 1 2 一，, q t ( 2 - 3 3 ) 与式( 2 - 2 4 ) 对应的是 m 胁卜喜删x ) ( 2 - 3 4 ) 而式( 2 - 2 6 ) 变成 z = r e x - l 一善以 c x ，b c ：- s s ， 而式( 2 2 7 ) 变成 p = 三唧瞧肌x ) 味s s ， 而式( 2 - 2 8 ) 变成了 e = 小唧瞧驯州户一啦，脚 c z s ， 第二章熵与最大熵原理 而式( 2 - 2 9 ) 、( 2 3 0 ) 两个式子并不改动。 这样我们就把连续变量场合求熵极大时对应的分布函数有关公式都推导出 来了。 如果有一个连续型的随机变量x 仅知道其出现于区间陋，6 】之间，而没有其 他约束，则式( 2 - 3 5 ) 变成 z = p 出= b 卅 将此代入式( 2 3 6 ) 即可求出概率密度