博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
python 爬虫 加强记忆
阅读量:4612 次
发布时间:2019-06-09

本文共 1117 字,大约阅读时间需要 3 分钟。

urllib :

使用urllib.urlencode() 进行url编码, 在requests中自带有url编码 

接受的参数是: 字典类型

 

urllib2: 

先构建请求: request = urllib2.Request()需要三个参数: url, data, headers

再反送请求,返回响应: response = urllib2.urlopen(request)

 
-------------------------------------------------------------------------------------------------------------
# python3中多了一个request,response = urllib.request.urlopen()
 get请求方式没有data
请求报头 headers = {"User-Agent" : "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11"}
 
# 构建请求对象,这个请求附带请求报头
request = urllib2.Request(url, headers = headers)
 
# 发送并得到请求响应
response = urllib2.urlopen(request)
 
html = response.read()  # 读取响应内容
 
有就修改没有就添加
request. add_header('Connection', 'keep-alive')
第一个参数是键名,第二参数是值
获取指定的请求报头的值,首字母大写,后面全部小写
request . get_header()
 
获取url
response.url
获取响应码
response.code
 
import random
random.choice(列表等可迭代对象)随机选择可迭代中的一个
 
urlencode(url编码:只能使用ASCII编码,所以要用urlencode编码成url字符串,接收的参数是字典类型) 是urllib中独有的,这就是urllib和urllib2混用的原因
url编码转化成字符串
data = urllib.unquote("a=%E4%B8%AD%E5%9B%BD%E5%BC%BA")
print data
a = 中国强

转载于:https://www.cnblogs.com/ppansj/p/8010756.html

你可能感兴趣的文章
poj 1094 Sorting It All Out(拓扑排序)
查看>>
acdream B - 郭式树 (水题 卡cin,cout, 卡LL)
查看>>
BMP图像格式
查看>>
python的匿名函数lambda解释及用法
查看>>
c#遍历Dictionary使用KeyValuePair
查看>>
defineProperties属性的运用==数据绑定
查看>>
关于 IOS 发布的点点滴滴记录(一)
查看>>
《EMCAScript6入门》读书笔记——14.Promise对象
查看>>
CSS——水平/垂直居中
查看>>
Eclipse连接mysql数据库jdbc下载(图文)
查看>>
Python中Selenium的使用方法
查看>>
三月23日测试Fiddler
查看>>
20171013_数据库新环境后期操作
查看>>
poj 1654 && poj 1675
查看>>
运维派 企业面试题1 监控MySQL主从同步是否异常
查看>>
Docker 版本
查看>>
poj 1753 Flip Game
查看>>
在深信服实习是怎样的体验(研发测试岗)
查看>>
Linux免密码登陆
查看>>
SpringMVC中文件的上传(上传到服务器)和下载问题(二)--------下载
查看>>