最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

Python实现周期性抓取网页内容的方法

来源:动视网 责编:小采 时间:2020-11-27 14:34:50
文档

Python实现周期性抓取网页内容的方法

Python实现周期性抓取网页内容的方法:本文实例讲述了Python实现周期性抓取网页内容的方法。分享给大家供大家参考,具体如下: 1.使用sched模块可以周期性地执行指定函数 2.在周期性执行指定函数中抓取指定网页,并解析出想要的网页内容,代码中是六维论坛的在线人数 论坛在线人数统计代码:
推荐度:
导读Python实现周期性抓取网页内容的方法:本文实例讲述了Python实现周期性抓取网页内容的方法。分享给大家供大家参考,具体如下: 1.使用sched模块可以周期性地执行指定函数 2.在周期性执行指定函数中抓取指定网页,并解析出想要的网页内容,代码中是六维论坛的在线人数 论坛在线人数统计代码:


本文实例讲述了Python实现周期性抓取网页内容的方法。分享给大家供大家参考,具体如下:

1.使用sched模块可以周期性地执行指定函数

2.在周期性执行指定函数中抓取指定网页,并解析出想要的网页内容,代码中是六维论坛的在线人数

论坛在线人数统计代码:

#coding=utf-8
import time,sched,os,urllib2,re,string
#初始化sched模块的scheduler类
#第一个参数是一个可以返回时间戳的函数,第二个参数可以在定时未到达之前阻塞。
s = sched.scheduler(time.time,time.sleep)
#被周期性调度触发的函数
def event_func():
 req = urllib2.Request('http://bt.neu6.edu.cn/')
 response = urllib2.urlopen(req)
 rawdata = response.read()
 response.close()
 usernump = re.compile(r'总计 .*? 人在线')
 usernummatch = usernump.findall(rawdata)
 if usernummatch:
 currentnum=usernummatch[0]
 currentnum=currentnum[string.index(currentnum,'>')+1:string.rindex(currentnum,'<')]
 print "Current Time:",time.strftime('%Y,%m,%d,%H,%M',time.localtime(time.time())),'User num:',currentnum
 # 保存结果,供图表工具amcharts使用
 result=open('liuvUserNUm','a')
 result.write('{year: new Date('+time.strftime('%Y,%m,%d,%H,%M',time.localtime(time.time()))+'),value:'+currentnum+'},
')
 result.close()
#enter四个参数分别为:间隔事件、优先级(用于同时间到达的两个事件同时执行时定序)、被调用触发的函数,给他的参数(注意:一定要以tuple给如,如果只有一个参数就(xx,))
def perform(inc):
 s.enter(inc,0,perform,(inc,))
 event_func()
def mymain(inc=900):
 s.enter(0,0,perform,(inc,))
 s.run()
if __name__ == "__main__":
 mymain()

希望本文所述对大家Python程序设计有所帮助。

文档

Python实现周期性抓取网页内容的方法

Python实现周期性抓取网页内容的方法:本文实例讲述了Python实现周期性抓取网页内容的方法。分享给大家供大家参考,具体如下: 1.使用sched模块可以周期性地执行指定函数 2.在周期性执行指定函数中抓取指定网页,并解析出想要的网页内容,代码中是六维论坛的在线人数 论坛在线人数统计代码:
推荐度:
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top