大数据采集与预处理课件:数据可视化技术 - 1_第1页
大数据采集与预处理课件:数据可视化技术 - 1_第2页
大数据采集与预处理课件:数据可视化技术 - 1_第3页
大数据采集与预处理课件:数据可视化技术 - 1_第4页
大数据采集与预处理课件:数据可视化技术 - 1_第5页
已阅读5页,还剩3页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

数据采集与可视化案例 本章学习目标●分析链家二手房的网页结构和内容●使用requests库编写爬虫代码获取指定数据●使用BeautifulSoup实现数据的解析●使用pymysql库实现数据的持久化●使用flask和echarts实现数据可视化7.1任务描述二手房房屋信息的数据采集与可视化,可以有助于多维度直观地了解房屋的综合价值,增强购房者选购房屋的精准性,从而满足购房者的合理住房需求。本综合案例通过分析链家二手房的网页结构和内容,使用requests库和BeautifulSoup库编写和解析自定义的爬虫代码获取字段为:地区(region)、户型(house_type)、面积(area_list)、装修类型(decorate_type)、楼层(floor_type)、房屋类型(building_type)、售价(total_price)、单价(avg_price)的数据。最后,使用pymysql库在MYSQL数据库管理系统中创建指定的数据库test和数据表lianjia,实现数据的持久化存储。。7.2.1Flask概述Flask是Python的API,允许我们构建Web应用程序。它是由阿明·罗纳赫开发的。Flask的框架比Django的框架更明确,也更容易学习,因为它实现简单Web应用程序的基础代码更少。Web应用程序框架或Web框架是模块和库的集合,可帮助开发人员编写应用程序,而无需编写协议、线程管理等低级代码。Flask基于WSGI(Web服务器网关接口)工具包和Jinja2模板引擎。7.2数据可视化技术WSGIWeb服务器网关接口(WSGI)已被采用作为PythonWeb应用程序开发的标准。WSGI是Web服务器和Web应用程序之间通用接口的规范。Werkzeug是一个WSGI工具包,它实现了请求、响应对象和其他实用功能。这使得能够在其之上构建Web框架。jinja2是一个流行的Python模板引擎。Web模板系统将模板与特定数据源结合起来以呈现动态网页。接下来我们创建一个简单的Flask应用,保存为flask_test.py,其中Flask中的route()装饰器用于将URL绑定到hello_world函数,函数的返回值最终会显示在网页中。fromflaskimportFlask

app=Flask(__name__)@app.route('/')defhello_world():return'HelloWorld'if__name__=='__main__':app.run()在Pycharm中运行flask_test.py,我们将得到如下输出,如图7-1所示。图7-1flask_test.py输出界面然后打开chrome浏览器,在地址栏输入:5

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论