火车头采集步骤和数据导出详解ppt课件

火车头采集,1,1、什么是采集源？2、认识火车头采集工具3、火车头采集工具的使用方法4、数据导出与处理,课程内容,2,1、什么是采集源？,一些网站有大量的文章、图片、邮箱等信息，对我们来说是一种资源，我们可以利用工具将这些资源采集回来，为我们所用。这样的网站，就是采集源。,3,1.1什么样的网站能成为“采集源”？,1、采集的目标页面，不需要登录即可访问；2、采集的内容列表页面url跟随一定的规律改变；3、该网站不屏蔽不干扰采集器的工作。,4,2、认识火车头采集工具,火车采集器，是目前使用人数最多的互联网数据抓取、处理、分析，挖掘软件。软件凭借其灵活的配置与强大的性能领先国内数据采集类产品。使用火车采集器，你可以建立一个拥有庞大内容的网站。,5,2.1、火车头采集工具的工作原理,火车采集器如何去抓取数据，取决于您的规则。要获取内容页的内容，首先需要先将这个网页的网址采下来，这就是采网址。程序按规则抓取列表页里的内容页url。再根据您的采集规则，将，将标题内容等信息分离开来并保存下来。如果选择了下载图片，程序会对采集到的数据进行分析，找出图片的下载地址并将图片下载到本地。,6,3、火车头采集工具的使用方法,3.1打开火车头工具，单击左侧空白处，根据需要新建分组,7,3.2右击刚才建立好的分组，新建采集任务，并填写好任务名称,8,3.3填写批量采集网址规则，注意先分析目标列表页url规则,9,3.4设置“多级网址获取”规则,10,3.4设置“多级网址获取”规则，并测试设置好的规则是否生效,11,3.5校验设置好的规则是否生效，如果生效，则返回修改设置；如果得到的结果不正确，也需要返回修改设置（重新分析采集范围是否正确，一直校验到是我们需要的结果）,12,3.6返回修改采集的项数，并且记得点击“添加”和“完成”,13,3.7进入到第二步“采集内容规则”采集文章的标题，选中“标题”，点击左侧的修改，选择“前后截取”，将文章标题的html区域填写完整，右侧“典型页面”填写一条内容页url，以供随时测试。,14,3.8采集文章的“摘要”,15,3.9采集文章的“标签”,16,3.10采集文章的“内容”填写内容所在区间的html标签，添加数据处理，勾选“下载图片”并填写文件保存目录和格式，最后点击确定。,17,3.11保存设置好的采集任务,18,3.12开始采集任务我们会看到，右侧任务运行的状况，一切正常,19,4、数据导出与处理,采集到的数据，需要用Accesss软件才能处理，因此，如果我们的电脑没有这个软件，则需要先安装Access软件。,4.1、安装Access,20,4.2、选中已经采集完成的任务，并右击出现下拉菜单后，打开Data下任务文件夹，出现第二个截图以.mdb扩展名的文件。,21,4.3、双击打开.mdb扩展名的文件，此时由于已经安装了Access，办公软件已经能正确识别.mdb文件，打开结果如下：,22,4.4、已经能用Excel打开采集到的文章内容之后，就可以利用Excel对数据进行批量处理，比如批量添加文章的发布时间、批量替换文字、批量修改图片路径等等。比如：在Excel表格里，按Ctrl+F，出现的对话框中选择“替换”，填写好需要替换的文字，即可对采集到的内容进行批量替换文字。,23,4.1、安装Access