站点中网页的信息分类及统计系统.ppt_第1页
站点中网页的信息分类及统计系统.ppt_第2页
站点中网页的信息分类及统计系统.ppt_第3页
站点中网页的信息分类及统计系统.ppt_第4页
站点中网页的信息分类及统计系统.ppt_第5页
已阅读5页,还剩10页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

站点中网页的信息分类及统计系统,指导老师 张世博 计093 李乐,系统目标,1.测试主机是否开启 2.获取网页源代码 3.分析单张网页图片数量、链接数量、关键词 4.分析多张网页图片数量、链接数量、关键词,系统界面,简洁,系统实现界面,采用MFC框架,由开发环境自动生成 菜单栏UPDATE_COMMAND_UI 机制 地址栏子对话框+CReBar,系统实现Ping,1.建立原始套接字 2.填充ICMP数据报 3.接收服务器响应,系统实现获取源代码,引用wininet库 源代码编码格式,系统实现分析源代码,1.正则表达式 2.CString成员函数 GetLength() Find() Left() Mid() Right(),系统实现分析源代码,1.提取标签中的内容 2.去除js代码 3.去除所有标签并分析链接和图片,系统实现提取关键字,得到网页正文 利用中科院分词系统接口,系统实现站点分析,数据结构 队列存储网页链接 哈希表存储已分析过的链接 站点结构树 遍历方法广度优先,系统实现实现广度优先,首地址,1(标志位),3000,链接1 链接2,2(标志位),系统实现链接筛选,不合法的链接 href=mailto: href=# 过滤外网链接 B类网第二字节只差不超过2 C类网第三字节不超过20,高效性,GetLength()+malloc 初始化链接队列长度 地址栏地址

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论