版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第PythonHttp发送请求浅析目录前言浅析requests浅析aiohttp浅析httpx结语
前言
相信很多人使用Python做接口请求(Http客户端请求)的时候,很多人肯定用过这几个:urllib,urllib3,requests.没错,反正我常用,而且在我这里出现最多最靓眼的那个崽是requests,毕竟普通接口请求,爬虫常用,而且封装起来后使用更为简单。所以在这篇文章里面,它是我浅析研究三国鼎立的其中之一。
这篇文章主要浅析这三个:
requestsaiohttphttpx
浅析requests
在不借助其他第三方库的情况下,requests只能发送同步请求。requests是一个Python第三方库,处理URL资源特别方便,而且相对于urllib3来说封装了更多功能,并且使用步骤简单。
我们深入一下到requestsapi源码来看一下:
从图片来看,其实可以大概看出requests支持哪些功能然后圈红的其实是最常用的一些功能,也就是可以设置请求方式,请求头,cookie,过期时间,请求接口验证,文件上传等等功能。
整理了日常大概常用的方,应该是下面这几种格式:
#get请求
requests.get(url,params)
#post请求
requests.post(url,data)
#文件上传
upload_files={'file':open('report.xls','rb')}
requests.post(url,file=upload_files)
#设置header
headers={'User-Agent':'Mozilla/5.0(iPhone;CPUiPhoneOS11_0likeMacOSX)AppleWebKit'}
requests.post(url,headers=headers)
#设置cookie
cookies={'token':'12345','status':'摸鱼'}
requests.post(url,cookies=cookies)
如果单纯请求一个接口,获取接口数据的话,上面的完全够用了,不需要额外的操作。
但是requests有时候挺多用在爬虫场景下,爬虫有的需要保持登录信息去爬取其他接口,那么单纯的去使用requests.get或者requests.post,这都是一次性的请求,是不太满足需求的。对于登录成功,再去请求其他的接口,可能需要之前生成的cookie或者token,这时候,这些信息就需要进行保存。对于这种情况,可以使用requests.session,它可以自动处理cookies,做状态保持.
大概的使用步骤应该是这样子:
#先实例化一个对象
session=requests.session()
#给requests.session()对象设置cookie信息,这个看情况使用,具体情况具体分析啊
cookies_dict={}
session.cookies=requests.utils.cookiejar_from_dict(cookies_dict)
#后面用法和直接使用requests一样了
#get请求
response=session.get(url)
#post请求
response=session.post(url,json=json_data)
result=response.json()
#获取登陆的所有cookies信息
print(result.cookies.values())
通过上面这些大概步骤,对于信息状态保持是已经足够了,这时候再用这些保持的信息去爬取接口是没有多大问题的(按道理啊,经典案例的话可以去模拟爬取一下淘宝PC端,本文具体的就不介绍了。)
浅析aiohttp
在不借助其他第三方库的情况下,aiohttp只能发送异步请求。
其实,人都是贪心的,在同步请求足够完成需求后,那么人就会去从其他方面去提升,比如同样的接口,希望能更快的处理返回,减少消耗时间,不希望阻塞。
那么随着这种需要,那么异步请求也就出现了。目前支持异步请求的方式有async/await+asyncio+requests组合构成,也可以使用aiohttp.aiohttp是一个为Python提供异步HTTP客户端、服务端编程,基于asyncio的异步库。aiohttp同样是可以设置请求方式,请求头,cookie,代理,上传文件等功能的
大概用代码来表示,应该是常见这些:
#post请求
payload={
"data":"helloworld"
asyncwithaiohttp.ClientSession()assession:
asyncwithsession.post(url,json=payload)asresp:
print(resp.status)
#get请求
#创建使用session
asyncwithaiohttp.ClientSession()assession:
asyncwithsession.get(url)asresp:
print(resp.status)
res=awaitresp.text()
returnres
#上传文件
files={'file':open('report.xls','rb')}
asyncwithaiohttp.ClientSession()assess:
asyncwithsess.post(url,data=files)asresp:
print(resp.status)
print(awaitresp.text())
#设置header,cookie
headers={'User-Agent':'youragent'}
cookies={'cookies_are':'摸鱼'}
asyncwithaiohttp.ClientSession(headers=headers,cookies=cookies)assession:
asyncwithsession.get(url)asresp:
print(resp.status)
res=awaitresp.text()
returnres
当然异步的请求,多可以是对接口返回数据在其他地方没有太强的依赖,异步的作用更多是用于提高效率,节省同步等待时间。
浅析httpx
在不借助其他第三方库的情况下,httpx既能发送同步请求,又能发送异步请求
httpx是Python新一代的网络请求库,它包含以下特点:
1.基于Python3的功能齐全的http请求模块2.既能发送同步请求,也能发送异步请求3.支持HTTP/1.1和HTTP/24.能够直接向WSGI应用程序或者ASGI应用程序发送请求
安装httpx需要Python3.6+(使用异步请求需要Python3.8+)
httpx是Python新一代的网络请求库,功能和requests基本都一致,但是requests在没有第三方库的支持下只能发同步请求,但是httpx不仅可以发同步请求,还可以异步,这个是比requests要好的。因为和requests差不多,那么requests能支持设置的,那么httpx也同样可以支持
基本的使用方法:
data={
'name':'autofelix',
'age':25
#get请求
httpx.get(url,params=data)
#post请求
httpx.post(url,data=data)
#设置header,cookie,timeout
headers={'User-Agent':'youragent'}
cookies={'cookies_are':'摸鱼'}
httpx.get(url,headers=headers,cookies=cookies,timeout=10.0)
#使用client发送(同步)请求
withhttpx.Client()asclient:
response=client.get(url)
异步操作,使用async/await语句来进行异步操作,使用异步client比使用多线程发送请求更加高效,更能体现明显的性能优势
importasyncio
importhttpx
asyncdefmain():
#异步请求AsyncClient
asyncwithhttpx.AsyncClient()asclient:
response=awaitclient.get(url)
print(response)
if__name__=='__main__':
#python3.7+支持写法
#asyncio.run(main())
#python3.6及以下版本写法
loop=asyncio.get_event_loop()
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026汽车制造市场调研及发展技巧与投资回报预测报告
- 2026中国运动安全预警系统人工智能技术融合应用前景报告
- 2026中国涡流泵市场消费需求变化与用户行为调研报告
- 2026汽车零部件行业竞争格局调研与未来发展展望分析研究报告
- 新版教科版六年级上册科学(课件)第4单元 5机械钟摆
- 2026叶黄素酯原料产地资源分布与采购策略研究报告
- 2026中国消费品零售市场发展趋势及商业模式创新与投资前景预测研究报告
- 2026人工智能技术发展市场潜力分析探讨战略规划投资价值评估
- 2026能源监控设备行业市场应用分析评估发展策略研究
- 工业机器视觉技术与应用 课件 第五章-工业机器视觉目标检测与跟踪
- JG/T 478-2015建筑用穿墙防水对拉螺栓套具
- 肌间静脉血栓抗凝治疗
- GB/T 10810.5-2025眼镜镜片第5部分:表面耐磨试验方法
- 《复杂系统理论》课件
- 外出参加护理会议后汇报
- T-CTSS 3-2024 茶艺职业技能竞赛技术规程
- 2023年教育部高中技术课程标准
- 安华农险辽宁省(不含大连)中央财政玉米种植收入保险
- CJT 340-2016 绿化种植土壤
- 高标准农田改造提升建设项目投标方案(技术标)
- 光学成像技术1-课件
评论
0/150
提交评论