最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

python通过伪装头部数据抵抗反爬虫

来源:动视网 责编:小采 时间:2020-11-27 14:21:40
文档

python通过伪装头部数据抵抗反爬虫

python通过伪装头部数据抵抗反爬虫:这篇文章主要介绍了关于python通过伪装头部数据抵抗反爬虫,有着一定的参考价值,现在分享给大家,有需要的朋友可以参考一下0x00 环境系统环境:win10编写工具:JetBrains PyCharm Community Edition 2017.1.2 xpython 版本:python
推荐度:
导读python通过伪装头部数据抵抗反爬虫:这篇文章主要介绍了关于python通过伪装头部数据抵抗反爬虫,有着一定的参考价值,现在分享给大家,有需要的朋友可以参考一下0x00 环境系统环境:win10编写工具:JetBrains PyCharm Community Edition 2017.1.2 xpython 版本:python


这篇文章主要介绍了关于python通过伪装头部数据抵抗反爬虫,有着一定的参考价值,现在分享给大家,有需要的朋友可以参考一下

0x00 环境

系统环境:win10

编写工具:JetBrains PyCharm Community Edition 2017.1.2 x

python 版本:python-3.6.2

抓包工具:Fiddler 4

0x01 头部数据伪装思路

通过http向服务器提交数据,以下是通过Fiddler 抓取python没有伪装的报文头信息

GET /u012870721 HTTP/1.1
Accept-Encoding: identity
Host: blog.csdn.net
User-Agent: <span style="color:#ff0000;">Python-urllib/3.6</span>
Connection: close

Python-urllib/3.6

很明显啊,我们暴露了。现在要问了,该怎么!模拟浏览器,让自己伪装成浏览器,一下是浏览器访问发送的头部数据

Connection: keep-alive
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win; x) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36
Referer: http://write.blog.csdn.net/postlist
Accept-Encoding: gzip, deflate
Accept-Language: zh-CN,zh;q=0.8

0x02代码实现

from urllib import request
html_url = "http://blog.csdn.net/u012870721";
#伪装构造头
header ={
 "Connection": "keep-alive",
 "Upgrade-Insecure-Requests": "1",
 "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win; x) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36",
 "Accept":" text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
 "Accept-Encoding": "gzip,deflate",
 "Accept-Language": "zh-CN,zh;q=0.8"
};

#int main()
#{
req = request.Request(url=html_url, headers=header);

resp = request.urlopen(req);
# return 0;
# }

伪装后进行发送的信息头

GET /u012870721 HTTP/1.1 
Host: blog.csdn.net 
Connection: close 
Upgrade-Insecure-Requests: 1 
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win; x) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36 
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8 
Accept-Encoding: gzip,deflate 
Accept-Language: zh-CN,zh;q=0.8

文档

python通过伪装头部数据抵抗反爬虫

python通过伪装头部数据抵抗反爬虫:这篇文章主要介绍了关于python通过伪装头部数据抵抗反爬虫,有着一定的参考价值,现在分享给大家,有需要的朋友可以参考一下0x00 环境系统环境:win10编写工具:JetBrains PyCharm Community Edition 2017.1.2 xpython 版本:python
推荐度:
标签: 数据 头部 python
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top