熵与信息生命赖负熵为生.ppt

一、熵概念的发展简史熵最初产生于18世纪初，Carnot研究热机效率发现可逆循环过程，随后Clausius根据可逆Carnot循环过程定义了态函数熵。Clausius明确了熵态函数，但没有给出更深刻的物理含义。直到19世纪中期，1887年波尔兹曼著名公式：w是热力学体系宏观态的微观状态数。当初称热力学几率，其实这个词并不确切。因为：通常几率在0，1区间，而热力学体系宏观状态的微观状态数w总是大于1，而且数量级非常之高。1928年，Hartrey可能受波尔兹曼关系的启发，首次在通信领域里提出信息熵的定义：,N是等概率消息单元的总数，信息熵H的意义是输送一个消息单元的不肯定性程度的量度。等概消息单元总数N愈多，信息熵H愈大，输送一个消息单元的不肯定性程度就愈大；反之，N愈少。当消息单元的总数N=1时，H=0，输送这个消息的不肯定性程度为零，就是完全肯定输送这个消息。,信息熵意义：在解决通信领域里的实际问题比较方便，只要知道等概率消息单元总数N就可以计算信息熵H。不足：对简单的信息源应用起来方便，对复杂的信息源把握等概率消息单元总数N却不是容易做到的；用这个信息熵定义计算得到的实际上是信息源的最大熵。,3、1948年，shannon推广Hartrey信息熵的定义，首先引入各不等概消息单元不肯定性的量度本征信息熵为：,信息熵定义：H(X)各个不等概消息单元的本征信息熵的加权统计平均值。,Pi是第i个消息单元的概率，n是不等概消息单元的总数。本征信息熵的意义：第i个消息单元Xi的不肯定性程度的量度。总信息熵的意义：信息源X的总的不肯定程度的量度。,当各个消息单元是等概率时,信息源的信息熵为：,Hartrey定义的信息熵是shannon定义的信息熵在等概条件下的最大值。,4、随着生物信息论、经济信息论、社会信息论等学科不断运用信息熵，使之有进一步的泛化的必要。熵的产生于热力学，扩展于信息论等学科领域。在不同的学科里，对熵的意义提法有所不同。但是从泛熵的概念高度来看。它们在本质上是一致的。凡是属于下列一类的对立统一性质的事物，例如：混乱性秩序性，散漫性组织性。无序性有序性，不肯定性肯定性。盲目性目的性，一般性特异性，随意性计划性，随机性确定性，多样性单纯性，含糊性透彻性，暧昧性明确性，未知性已知性噪声信号，,并且满足如下概型条件,本征状态：,概率分布：,完备性：,归一性：,以上的问题，均可用熵作为指标进行分析。,二、信息源的概型结构本征信息熵,现在讨论信息熵的基本概念,1、信息源：发送消息的源。Informationsource例如：自然界中的一切物体，大至宇宙天体，小至原子、原子核、基本粒子、以及中间的各个层次：生物圈，生态，群落，种群，个体，系统，器官，组织，细胞，亚细胞，分子，亚分子等，例如一个国家、社会团体，大脑，内分泌等等，都有它们自己的情态，无不随时发送出它们自己的消息，因而都可作为信息源。,信息源特点：它们都具有一系列可能的基本状态，叫本征态。每一本征态称为一个消息单元，记：Xi（i=1,2,3n），这n个消息单元或本征态序列实际上就是离散的随机变量，它具有互斥性和完备性。互斥性：信息源可能处于这个基本状态，也可能处于其余的基本状态，但不能同时处于同一个本征状态，处于这个本征态，就不处于其它本征态；完备性：这个n个消息单元是完备无缺的。这个n个互斥的完备的消息单元构成一个消息单元的集合，记：XX1，X2，Xn每个消息单元Xi都有个确定的概率与之相对应，记：p(Xi)，整个消息单元的集合X有概率：P(X)P(X1)，P(X2)，P(Xn)分布着，消息单元集合的互斥性与完备性反应在概率上是概率的总和具有归一性。,因此，信息源的基本概型结构：消息单元XiX1，X2，Xn概率分布P(Xi)P(X1)，P(X2)，P(Xn),实际例子：设有一在外的工作人员，收到消息得知家中的老母中风住院治疗，这时他母亲就是个信息源，可能处于的本征态：可能发送出的消息单元有(Xi)：,当工作人员又接到家信得悉母亲经抢救后，已恢复意识，正在积极进行治疗。这时信息源的本征态或消息单元的集合概率分布已发生了变化。,如果工作人员又接到消息说：经积极治疗后已经能起床作太极操了，则相应的概率分布变为：,提出一个问题：各个消息单元的不肯定程度多大？概论大，可能性就越大，不可定性程度就越小；反之，概率小，可能性就越小。例如：X5康复的概率最大到1，其它概率降为零，这个消息单元X5就完全肯定了。不确定性为零。因此，本征信息熵定义：消息单元概率的倒数的对数为消息单元的不肯定性程度的量度。,第一次电话后，五个本征态或消息单元，各个本征信息熵：,第二次电话后，五个本征态或消息单元，各个本征信息熵：,第三次电话后，五个本征态或消息单元，各个本征信息熵：,对于好转这个消息单元的不肯定性程度由2.322bit逐渐减少到1bit，肯定性程度是逐渐增加的。,三、信息源不肯定性的量度信息熵,信息源的信息熵：各个消息单元的本征信息熵的统计加权平均值。为这信息源的不肯定性的程度。,第一次电话后，五个本征态或消息单元，平均一个消息单元的不肯定性程度为：信息源的信息熵。,第二次电话后，平均一个消息单元的不肯定性程度为信息源的信息熵。,第三次电话后，消息单元的不肯定性程度为：信息源的信息熵,如果概率分布不是均等的。设：,信息熵应用,目的性盲目性程度的量度,设有二名高尔夫球手，由于训练素养不同，击球射出的盲目性程度不同，经过足够多次的调查统计确定，他们的击球概率分布如下：,r是坑的半径。由概率的定性分析可知，射手甲的目的性好，乙比甲的盲目性大些。以熵为定量分析指标，分别计算得：,定量可知，射手乙比甲的盲目性大0.8244bit.,四、信息熵的性质分析本征信息熵加权函数（1）非负性,（2）连续性,（3）极值性（4）平均性,信息熵的性质,非负性，连续性，极值性、对称型、加合性,五、信息量信息量I=熵的减少,熵的减少意味着系统有序度的增加。,知识是信息，所以知识是负熵。不管是教师或是学生在这一负熵传递过程中，两者都要消耗有用的功，增加人体、环境的熵。一个子系统负熵、有序的增加，是以全局的熵、混乱的增加为代价的。,薛定谔把负熵的概念带进生物学。按照熵的增加原理，演化总是朝着无序、混乱和衰退方向。为什么生物能避免死亡？靠吃、喝、呼吸，新陈代谢。一个有机体在不断地增加它的熵在增加正熵并接近最大熵值的危险状态，那就是死亡。要摆脱死亡，活着，唯一的办法是从环境不断地吸取负熵，有机体是靠负熵为生的。意思：有机体吸取负熵去抵消它在生活中产生的熵增加，从而自身稳定在低熵的水平。关于负熵：1987年薛定谔100周年诞辰，围绕他的负熵又展开了激烈的争论熵不仅向着无组织性滑去，在某些条件下熵本身成为有序之源。至少在远离平衡态下，熵不会削弱而是会产生有序和组织，进而会产生生命。,事物的发展都是在热力学第二定律得支配下行事的，一切自发过程都是朝着熵增加的方向，向着混沌的方向滑去，直到所限条件下熵最大（或最大混乱）为止。然而，在开放的远离平衡态的系统中呈现的自组织现象，改变了不可逆过程的消极形象。在宇宙的一个局部一个开放的远离平衡系统中，不可逆过程扮演着建设者角色，它能为人们构造出奇妙的时间空间的有序结构，使系统中个体表现出惊人的协同一致，为了与平衡结构（如晶体）相区别，人们称这种有序结构为耗散结构或自组织。,六、耗散结构1、B-Z反应，化学钟1958年，贝拉索夫扎波金斯基：在铈离子催化剂作用下，柠檬酸被溴酸钾所氧化的化学震荡。在一个装有搅拌器的烧杯中，首先放入150cm3，1MH2SO4溶液，然后，依次溶入CH2(COOH)2(丙二酸)429克，铈盐（Ce（NH4)2(NO2)60.1645克，待溶液变清后，再加入KBrO31.5665克。在室温下充分搅拌。几分钟后能观察到溶液在黄色（Ce+是黄色）和无色（Ce3+是无色的）之间震荡，振动周期约50秒，持续时间可达1小时左右。如果另加入Ferroin指示剂（又称试亚铁灵0.01622克）几cm3，则溶液的颜色就会在红色（还原）和蓝色（氧化）之间震荡，这是一种时间周期结构，空间上是均匀的，在每一时刻各处的颜色是一样的，时间上耗散结构。,如果实验这样进行，便可观察到空间周期结构。按上述用量，把H2SO4、丙二酸、KBrO3、Ferroin指示剂在试管搅拌器静置后，将铈盐溶液沿管壁迅速加入，在红色溶液中就会呈现红蓝相间的条纹，分别对应还原和氧化在空间的分布，这是一种时空耗散结构，一种传播的化学波，在二维平面上进行的化学反应，能使我们观察到新奇的螺旋波的形成和传播。自化学震荡被观察到后，人们发现越来越多的化学震荡反应。因为它对弄清生物乃至人体的内在机制和功能，对自组织理论的发展都有重大意义。化学震荡令人惊奇：试管中那些数目巨大而混乱的分子，在一瞬间，居然会同步进行氧化反应或同步进行还原反应。一个系统内所有个体采取一致行动，没有信息交流是不可能的。通过分子间的相互作用和联系来交流信息。,分子甚至通过碰撞就能建立起相互关联和取得一致。普里高金学派科学家：信息从粒子的二体碰撞传导了整个系统，从系统的微观层次推进到了宏观层次，于是形成自组织结构一种非平衡态的宏观耗散结构。2、开放系统的熵变：热力学熵增加原理只适用孤立系统；活的生物体是一种开放系统，也是生命系统不停地与环境进行着物质与能量的交换。,iS:发生在生物体内的熵变（只要生物活着，这个熵iS0）；eS：是生物体与环境交换的熵。如果有熵从生物体内流出，则eS0。,一个人，他的熵可能减小：他的熵也可能保持不变；当他的体内的熵产生恰好被流出体外的熵所补偿，也就是说他这一开放系统处于非平衡态的稳定性。一个发育完全、年轻健康的宇航员，在较长一段时间内保持稳定的体重，就能维持处于这种生机活跃的非平衡状态。还有另种可能：换了一位年老的“宇航员”，他的机体和活力缓慢地衰老着，他的熵就会不停地增大。,在生命活动中，新陈代谢等活动是生物体远离平衡态的过程，遵循非平衡态非线性的热力学规律。非平衡态热力学为用物理学或化学原理来解释自然界中出现的各种宏观有序现象扫清了原则性的障碍。非平衡态热力学并非抛弃经典热力学的基本结论，而是给出新的阐述和重要的补充，从而使人们对自然的认识有了较完整的认识。,人们对自然的认识有了较完整的认识接近平衡的状态，发展过程表现为趋向平衡态或与平衡态有类似行为的非平衡定态，并总是伴随着无序的增加和宏观结构的破坏。在远离平衡态的条件下，无论是非生命现象还是生命现象，非平衡定态统统变得不稳定，发展过程可以经受突变，从而导致宏观有序的增加和耗散结构的形成。,29/257解：,例题、对于任何物质，证明两绝热线不能相交。,分析：针对任何物质而言的，也要利用热力学基本定律（即利用永动机不可能造成的），由反证法来证明。例如先假定两绝热线已经相交，其结果会形成一种永动机，从而说明这是不可能的。因为永动机是做功的机器，所以要在图上构造一个顺时针循环。但是两根相交的绝热线不能构成循环，而且它也不吸收热量。我们应再增添一条从单一热源吸热的等温线，这条等温线和那两条绝热线相交组成一个顺时针顺循环，看这样是否会违背热力学基本定律。,解：假设在p-V图上两条绝热线A、B相交于点“1”，则可作一等温线C与它们分别相交于点“3”和点“2”。线段“1-2”、“2-3”和“3-1”围成一闭合区域。现在也分两种情况进行讨论。,（1）若“1”点在等温线上面，（a）所示。利用闭合曲线做一正循环“1-2-3-1”。在此循环过程中对外做了功（其大小就是闭合曲线所围的面积），它却仅在“2-3”等温过程中放热。这说明系统可以在不吸收热量，甚至在放热的情况下对外做有用功，这违反热力学第一定律。,（2）若“1”点在等温线下面，如图（b）所示。利用闭合曲线做一正循环“1-2-3-1”。此循环过程只在“2-3”等温过程中从单一热源吸热对外做了有用功而无其它影响,这违反热力学第二定律。所以，两绝热线不能相交。所以，两绝热线不能相交。,例题：一长为0.8m的圆柱形容器被一薄的活塞分隔成两部分。开始时活塞固定在距左端0.3m处。活塞左边充有1mol,5105pa的氦气，右边充有1105pa的氖气。它们都是理想气体。将气缸浸入1升水中，开始时整个物体系的温度均匀地处于25。气缸及活塞的热容可不考虑。放松以后振动的活塞最后将位于一新的平衡位置，试问这时:（1）水温升高多少？（2）活塞将静止在距气缸左边多大距离位置？（3）物体系的总熵增加多少？,分析：开始时活塞是被固定的,放松以后活塞振动起来。说明开始时活塞两边压强不等，物质的量也不等。考虑到气缸内的氦气和氖气作为一个整体它不可能对外做功，而开始时整个物体系（气缸以及内中的气体和外面的水）的温度均匀地处于25，它不可能和外界交换热量。所以一开始气缸以及内中气体的内能就不变，温度不变，以后温度应该仍然不变。水的温度也不变。,解：（1）水温保持不变25。（2）设初态氦气的状态参量为：H