最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

利用python2.7抓取豆瓣电影top250

来源:懂视网 责编:小采 时间:2020-11-27 14:17:20
文档

利用python2.7抓取豆瓣电影top250

利用python2.7抓取豆瓣电影top250:这个插件可以方便查看包括HTML在内许多内容打开豆瓣电影排行榜top250网页,发现每页有25部电影,一共10页,其每一页url具有如下特征:http://movie.douban.com/top250start=0http://movie.douban.com/top250start=25http:
推荐度:
导读利用python2.7抓取豆瓣电影top250:这个插件可以方便查看包括HTML在内许多内容打开豆瓣电影排行榜top250网页,发现每页有25部电影,一共10页,其每一页url具有如下特征:http://movie.douban.com/top250start=0http://movie.douban.com/top250start=25http:
这个插件可以方便查看包括HTML在内许多内容

打开豆瓣电影排行榜top250网页,发现每页有25部电影,一共10页,其每一页url具有如下特征:

http://movie.douban.com/top250?start=0

http://movie.douban.com/top250?start=25

http://movie.douban.com/top250?start=50

http://movie.douban.com/top250?start=75

......

以此类推因此只需要利用循环对后面的0,25,...225处理即可。

网页点击任何一个电影中文名,右击鼠标“查看元素”查看HTML源代码:wKioL1gayqiA24f3AAGc29LICkg728.png

可以发现电影名称放在 中,同时英文名也放在 中。

可以利用正则表达式(.*)匹配电影的中文名和英文名,但这里只想得到中文名,所以需要过滤英文名。

过滤方法可以利用find(str,pos_start,pos_end)函数实现,剔除英文名字里特有的特征:‘ ’和‘/’,详见代码。

3.代码实现

这里代码比较简单,因此就不用定义函数了。

#!/usr/bin/python
# -*- coding: utf-8 -*- #
import requests,sys,re
from bs4 import BeautifulSoup

reload(sys)
sys.setdefaultencoding('utf-8')
print '正在从豆瓣电影Top250抓取数据......'

for page in range(10):
 url='https://movie.douban.com/top250?start='+str((page-1)*25)
 print '---------------------------正在爬取第'+str(page+1)+'页......--------------------------------'
 html=requests.get(url)
 html.raise_for_status()
 try:
 soup=BeautifulSoup(html.text,'html.parser')
 soup=str(soup) # 利用正则表达式需要将网页文本转换成字符串
 title=re.compile(r'(.*)')
 names=re.findall(title,soup)
 for name in names:
 if name.find(' ')==-1 and name.find('/')==-1: # 剔除英文名(英文名特征是含有' '和'/')
 print name
 # 创建名称,评分
 except Exception as e:
 print e
print '爬取完毕!'

文档

利用python2.7抓取豆瓣电影top250

利用python2.7抓取豆瓣电影top250:这个插件可以方便查看包括HTML在内许多内容打开豆瓣电影排行榜top250网页,发现每页有25部电影,一共10页,其每一页url具有如下特征:http://movie.douban.com/top250start=0http://movie.douban.com/top250start=25http:
推荐度:
标签: 利用 电影 python
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top