pangrank算法

1、1. 前言这系列的文章主要讲述2006年评出的数据挖掘10大算法（见图1）。文章的重点将偏向于算法的来源以及算法的主要思想，不涉及具体的实现。如果发现文中有错，希望各位指出来，一起讨论。                                 

2、0;                     图1 来自IDMer的文章    在这些算法中，最引人注目的自然是Google的核心技术之一PageRank。因此本系列就先来探索PageRank的诞生过程。 2. 核心思想    常言道，看一个人怎样，看他有什么朋友就知道了。也就是说，一个人有着越多牛X朋友的人，他是牛X

3、的概率就越大。将这个知识迁移到网页上就是“被越多优质的网页所指的网页，它是优质的概率就越大”。PageRank的核心思想就是上述简单却有效的观点。由这个思想，可以得到一个直观的公式：                                   

4、;                                                  

5、;          (1)R(x)表示x的PageRank，B(x)表示所有指向x的网页。      公式(1)的意思是一个网页的重要性等于指向它的所有网页的重要性相加之和。粗看之下，公式(1)将核心思想准确地表达出来了。但仔细观察就会发现，公式(1)有一个缺陷：无论J有多少个超链接，只要J指向I，I都将得到与J一样的重要性。当J有多个超链接时，这个思想就会造成不合理的情况。例如：一个新开的网站N只有两个指向它的超链接，一个来自著名并且历史悠久的门户网站

6、F，另一个来自不为人知的网站U。根据公式(1)，就会得到N比F更优质的结论。这个结论显然不符合人们的常识。弥补这个缺陷的一个简单方法是当J有多个超链接（假设个数为N），每个链接得到的重要性为R(j)/N。于是公式(1)就变成：                                                     

7、;                                            (2)N(j)表示j页面的超链接数                                  

8、0;                                          图2 来自Lawrence Page的文章     从图2可以看出，如果要得到N比F更优质的结论，就要求N得到很多重要网站的超链接或者海量不知名网站的超链接。而这是可接受的。因此可以认为公式(2)将核心思想准确地表达出来了。为了得到标准化的计算结果，在

9、公式(2)的基础上增加一个常数C，得到公式(3)：                                                                              &#

10、160;                     (3) 3. 计算由公式(3)可知，PageRank是递归定义的。换句话就是要得到一个页面的PageRank，就要先知道另一些页面的PageRank。因此需要设置合理的PageRank初始值。不过，如果有办法得到合理的PageRank初始值，还需要这个算法吗？或者说，这个严重依赖于初始值的算法有什么意义吗？依赖于合理初始值的PageRank算法是没意义的，那么不依赖于初始值的PageRank算法就是有意义的了。也就是

11、说，如果存在一种计算方法，使得无论怎样设置初始值，最后都会收敛到同一个值就行了。要做到这样，就要换一个角度看问题，从线性代数的角度看问题。将页面看作节点，超链接看作有向边，整个互联网就变成一个有向图了。此时，用邻接矩阵M表示整个互联网，若第I个页面有存在到第J个页面的超链接，那么矩阵元素mij=1，否则mij=0。对于图3有矩形M= 0, 1, 1, 0,             0, 0, 0, 1,            1, 0, 0, 0,  &#

12、160;         1, 1, 1, 0                                                                        

13、            图3观察矩阵M可发现，M的第I行表示第I个网页指向的网页，M的第J列表示指向J的网页。如果将M的每个元素都除于所在行的全部元素之和，然后再将M转置（交换行和列），得到MT。MT的每一行的全部元素之和不就正好是公式(3)中的 吗？例如图3可以得到这样的矩阵：MT= 0,   0,  1, 1/3,        1/2, 0,  0, 1/3,       1/2,  0,  

14、;0, 1/3,        0,   1,   0,  0   将R看作是一个N行1列的矩阵，公式(3)变为R = C MT R  (4)在公式(4)中，R可以看作MT的特征向量，其对应的特征值为1 / C（看不明白这句话，可以回忆下线性代数中对特征向量的定义对于矩阵A，若存在着列向量X和一个数c，使得AX=cX，则X称为A的特征向量，c称为A的特征值）。幂法(power method）计算主特征向量与初始值无关，因此只要把R看作主特征向量计算，就可以解决初始值的合理设置问题。幂法得到的结果

15、与初始值无关，是因为最终都会收敛到某个值。因此使用幂法之前，要确保能够收敛。但是，在互联网的超链接结构中，一旦出现封闭的情况，就会使得幂法不能收敛。所谓的封闭是指若干个网页互相指向对方，但不指向别的网页，具体的例子如图4所示：                                     图4 来自Soumya Sanyal的PPT上图4个绿色网页就是封闭情况。这种情况会使得这些网页的P

16、ageRank在计算的时候不断地累加，从而使得结果不能收敛。仔细研究就会发现红色网页的PageRank给了绿色网页后，绿色网页就将这些PageRank吞掉了。Larry Page将这种情况称为Rank Sink。如果沿着网页的链接一直点下去，发现老是在同样的几个网页中徘徊，怎么办？没错，把当前页面关掉，再开一个新的网页。上述情况正好与Rank Sink类似，也就意味着可以借鉴这个思想解决Rank Sink。因此，在公式(3)中的基础上加一个逃脱因子E，得到：                   

17、                                                                             (5)E(i)表示第i个网页的逃脱因子 

18、60; 将(5)变成矩阵形式，可得：R = C MT R + CE = C( MT R + E )其中列向量R的1范数(即R的全部矩阵元素相加)为1将上式重写为R = C( MT + E * 1 ) R (6)1是指一行N列的行向量，且每个元素都是1   在公式(6)中，只要将R看作(MT + E * 1)的特征向量，就可以同时解决初始值设置问题和封闭的情况。 4. 资料共享   找资料是简单的事，但要找到好资料就不那么容易了。因此，这一小节是分享我找到的一些比较好的资料。1. PageRank

19、之父的文章: The PageRank Citation Ranking Bringing Order to the Web:8090/422/2. 一个对PageRank进行解释的PPT，讲解得很好: The PageRank Citation Ranking Redone3. 不错的PageRank科普文: Google 的秘密- PageRank 彻底解说 中文版4. 本文所用到的线性代数相关知识/Books/LA/eigen/PageRank算法分类： 搜索引擎Search Engine&

20、#160;数据结构与算法2012-09-21 17:02 26967人阅读 评论(10) 收藏 举报目录(?)+1. PageRank算法概述         PageRank,即网页排名，又称网页级别、Google左侧排名或佩奇排名。        是Google创始人拉里·佩奇和谢尔盖·布林于1997年构建早期的搜索系统原型时提出的链接分析算法，自从Google在商业上获得空前的成功

21、后，该算法也成为其他搜索引擎和学术界十分关注的计算模型。目前很多重要的链接分析算法都是在PageRank算法基础上衍生出来的。PageRank是Google用于用来标识网页的等级/重要性的一种方法，是Google用来衡量一个网站的好坏的唯一标准。在揉合了诸如Title标识和Keywords标识等所有其它因素之后，Google通过PageRank来调整结果，使那些更具“等级/重要性”的网页在搜索结果中另网站排名获得提升，从而提高搜索结果的相关性和质量。其级别从0到10级，10级为满分。PR值越高说明该网页越受欢迎（越重要）。例如：一个PR值为1的网站表明这个网站不太具有流行度，而PR值为7到10

22、则表明这个网站非常受欢迎（或者说极其重要）。一般PR值达到4，就算是一个不错的网站了。Google把自己的网站的PR值定到10，这说明Google这个网站是非常受欢迎的，也可以说这个网站非常重要。 2. 从入链数量到 PageRank        在PageRank提出之前，已经有研究者提出利用网页的入链数量来进行链接分析计算，这种入链方法假设一个网页的入链越多，则该网页越重要。早期的很多搜索引擎也采纳了入链数量作为链接分析方法，对于搜索引擎效果提升也有较明显的效果。 PageRank除了考虑到入链数量的影响，还

23、参考了网页质量因素，两者相结合获得了更好的网页重要性评价标准。对于某个互联网网页A来说，该网页PageRank的计算基于以下两个基本假设：     l 数量假设：在Web图模型中，如果一个页面节点接收到的其他网页指向的入链数量越多，那么这个页面越重要。    l 质量假设：指向页面A的入链质量不同，质量高的页面会通过链接向其他页面传递更多的权重。所以越是质量高的页面指向页面A，则页面A越重要。       利用以上两个假设，P

24、ageRank算法刚开始赋予每个网页相同的重要性得分，通过迭代递归计算来更新每个页面节点的PageRank得分，直到得分稳定为止。 PageRank计算得出的结果是网页的重要性评价，这和用户输入的查询是没有任何关系的，即算法是主题无关的。假设有一个搜索引擎，其相似度计算函数不考虑内容相似因素，完全采用PageRank来进行排序，那么这个搜索引擎的表现是什么样子的呢？这个搜索引擎对于任意不同的查询请求，返回的结果都是相同的，即返回PageRank值最高的页面。 3. PageRank算法原理      PageRank的计算充分利用了两

25、个假设：数量假设和质量假设。步骤如下：      1）在初始阶段：网页通过链接关系构建起Web图，每个页面设置相同的PageRank值，通过若干轮的计算，会得到每个页面所获得的最终PageRank值。随着每一轮的计算进行，网页当前的PageRank值会不断得到更新。      2）在一轮中更新页面PageRank得分的计算方法：在一轮更新页面PageRank得分的计算中，每个页面将其当前的PageRank值平均分配到本页面包含的出链上，这样每个链接即获得了相应的权值。而每个页

26、面将所有指向本页面的入链所传入的权值求和，即可得到新的PageRank得分。当每个页面都获得了更新后的PageRank值，就完成了一轮PageRank计算。  3.2 基本思想：       如果网页T存在一个指向网页A的连接，则表明T的所有者认为A比较重要，从而把T的一部分重要性得分赋予A。这个重要性得分值为：PR（T）/L(T)    其中PR（T）为T的PageRank值，L(T)为T的出链数        则

27、A的PageRank值为一系列类似于T的页面重要性得分值的累加。        即一个页面的得票数由所有链向它的页面的重要性来决定，到一个页面的超链接相当于对该页投一票。一个页面的PageRank是由所有链向它的页面（链入页面）的重要性经过递归算法得到的。一个有较多链入的页面会有较高的等级，相反如果一个页面没有任何链入页面，那么它没有等级。3.3 PageRank简单计算：       假设一个由只有4个页面组成的集合：A，B，C和D。如果所有页面都链向A

28、，那么A的PR（PageRank）值将是B，C及D的和。              继续假设B也有链接到C，并且D也有链接到包括A的3个页面。一个页面不能投票2次。所以B给每个页面半票。以同样的逻辑，D投出的票只有三分之一算到了A的PageRank上。             换句话说，根据链出总数平分一个页面的PR值。  &#

29、160;    例子：        如图1 所示的例子来说明PageRank的具体计算过程。                                &

30、#160;    3.4  修正PageRank计算公式：         由于存在一些出链为0，也就是那些不链接任何其他网页的网， 也称为孤立网页，使得很多网页能被访问到。因此需要对 PageRank公式进行修正，即在简单公式的基础上增加了阻尼系数（damping factor）q， q一般取值q=0.85。      其意义是，在任意时刻，用户到达某页面后并继续向后浏览的概率。 1-

31、 q= 0.15就是用户停止点击，随机跳到新URL的概率）的算法被用到了所有页面上，估算页面可能被上网者放入书签的概率。      最后，即所有这些被换算为一个百分比再乘上一个系数q。由于下面的算法，没有页面的PageRank会是0。所以，Google通过数学系统给了每个页面一个最小值。           这个公式就是.S Brin 和 L. Page 在The Anatomy of a Large- scale Hypertextu

32、al Web Search Engine Computer Networks and ISDN Systems 定义的公式。     所以一个页面的PageRank是由其他页面的PageRank计算得到。Google不断的重复计算每个页面的PageRank。如果给每个页面一个随机PageRank值（非0），那么经过不断的重复计算，这些页面的PR值会趋向于正常和稳定。这就是搜索引擎使用它的原因。 4. PageRank幂法计算(线性代数应用)4.1 完整公式：关于这节内容，可以查阅：谷歌背后的数学首先求完整的公式：Arvind Arasu 在Ju

33、nghoo Cho Hector Garcia - Molina, Andreas Paepcke, Sriram Raghavan. Searching the Web 更加准确的表达为： 是被研究的页面，是链入页面的数量，是链出页面的数量，而N是所有页面的数量。PageRank值是一个特殊矩阵中的特征向量。这个特征向量为： R是如下等式的一个解：如果网页i有指向网页j的一个链接，则否则0。4.2 使用幂法求PageRank      那我们PageRank 公式可以转换为求解的值，   &#

34、160;  其中矩阵为 A = q  × P + ( 1 一 q) *  /N 。 P 为概率转移矩阵，为 n  维的全 1 行. 则 =           幂法计算过程如下：      X  设任意一个初始向量, 即设置初始每个网页的 PageRank值均。一般为1.    

35、 R = AX;     while  (1 )(            if ( l X - R I  <  ) /如果最后两次的结果近似或者相同，返回R                  return R;&#

36、160;              else                   X =R;               R = AX;   

37、;          4.3 求解步骤：一、 P概率转移矩阵的计算过程:        先建立一个网页间的链接关系的模型,即我们需要合适的数据结构表示页面间的连接关系。      1) 首先我们使用图的形式来表述网页之间关系：       现在假设只有四张网页集合：A、B、C，其抽象结构如下图1：   

38、60;                                         图1 网页间的链接关系      显然这个

39、图是强连通的（从任一节点出发都可以到达另外任何一个节点）。      2）我们用矩阵表示连通图：       用邻接矩阵 P表示这个图中顶点关系 ，如果顶（页面）i向顶点（页面）j有链接情况 ，则pij   =   1 ，否则pij   =   0 。如图2所示。如果网页文件总数为N ， 那么这个网页链接矩阵就是一个N x N  的矩 阵 。   

40、    3）网页链接概率矩阵       然后将每一行除以该行非零数字之和，即（每行非0数之和就是链接网个数）则得到新矩阵P，如图3所示。 这个矩阵记录了 每个网页跳转到其他网页的概率，即其中i行j列的值表示用户从页面i 转到页面j的概率。图1 中A页面链向B、C，所以一个用户从A跳转到B、C的概率各为1/2。      4）概率转移矩阵P       采用P 的转置

41、矩 阵进行计算， 也就是上面提到的概率转移矩阵P 。  如图4所示：                         图2  网页链接矩阵：               

42、                       图3  网页链接概率矩阵：                         

43、;    图4  P 的转置矩 阵 二、 A矩阵计算过程。      1）P概率转移矩阵  :             2）/N 为：           3）A矩阵为：q  × P + ( 1 一 q) *