最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

基于node.js实现爬虫的讲解

来源:动视网 责编:小采 时间:2020-11-27 22:00:55
文档

基于node.js实现爬虫的讲解

基于node.js实现爬虫的讲解:1. cheerio 与 request request:模拟客户端行为,对页面进行请求 cheerio:对服务器端返回的页面进行解析; var cheerio = require('cheerio'); var request = require('request'); var startUrl = 'http://
推荐度:
导读基于node.js实现爬虫的讲解:1. cheerio 与 request request:模拟客户端行为,对页面进行请求 cheerio:对服务器端返回的页面进行解析; var cheerio = require('cheerio'); var request = require('request'); var startUrl = 'http://


1. cheerio 与 request

  • request:模拟客户端行为,对页面进行请求
  • cheerio:对服务器端返回的页面进行解析;
  • var cheerio = require('cheerio');
    var request = require('request');
    var startUrl = 'http://www.baidu.com'
    request(startUrl, function(err, response) {
     if (err) {
     console.log(err);
     }
     var $ = cheerio.load(response.body);
     var title = $('title').text();
     console.log(title);
    }

    2. 认识 cheerio

    获取 element 位置

    通过 class 属性进行匹配:

    var $=cheerio.load('<div class="container"></div>'); 
    $('.container')

    取其链接:<a class="downbtn" href="http://mov.bn.netease.com/mobilev/2013/1/F/G/S8KTEF7FG.mp4" id="M8KTEKR84" target="_blank"></a>

    $('a.downbtn').attr('href')

    某一页面下的全部可链接:

    var url = 
    var $ = cheerio.load(data);
     $("a.downbtn").each(function(i, e) {
     console.log($(e).attr("href"));
     });
     console.log("done");
     } else {
     console.log("error");
     } 

    总结

    文档

    基于node.js实现爬虫的讲解

    基于node.js实现爬虫的讲解:1. cheerio 与 request request:模拟客户端行为,对页面进行请求 cheerio:对服务器端返回的页面进行解析; var cheerio = require('cheerio'); var request = require('request'); var startUrl = 'http://
    推荐度:
    标签: 实现 爬虫 基于
    • 热门焦点

    最新推荐

    猜你喜欢

    热门推荐

    专题
    Top