java爬虫简单例子——附jsoup的select用法详解

在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你 会发现,一切都变得很容易。
 
 
 
【准备工作】
 
下载:jsoup-1.6.1.jar
 
 
 
【先看效果】
 
目标网站:中国天气 
 
目的:获取今天的天气
 
目标HTML代码:
 
 
复制代码
  •      

    今天

         

    8日

         
             
         

    雷阵雨

         

    33°C

         

    25°C

         

               
                     
                     
               
                微风
         

         
    复制代码
     
     
    解析的java代码:
     
    (1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的
  •  
    (2)“今天” 两字在

     
    (3)“8日” 两字在

     
    (4)“雷阵雨” 三字在 class="wea" 中
     
    (5)“33” 在第一个
     
    (6)“25” 在第二个
     
    (7)“微风” 两字在 第三个
     
    有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:
     
     
    复制代码
     1 package com.zjm.www.test;
     2 
     3 import java.io.IOException;
     4 
     5 import org.jsoup.Jsoup;
     6 import org.jsoup.nodes.Document;
     7 import org.jsoup.select.Elements;
     8 
     9 public class TestJsoup {
    10     
    11     public  Document getDocument (String url){
    12         try {
    13             return Jsoup.connect(url).get();
    14         } catch (IOException e) {
    15             e.printStackTrace();
    16         }
    17         return null;
    18     }
    19 
    20     public static void main(String[] args) {
    21         TestJsoup t = new TestJsoup();
    22         Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
    23         // 获取目标HTML代码
    24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
    25         // 今天
    26         Elements elements2 = elements1.select("h1");
    27         String today = elements2.get(0).text();
    28         System.out.println(today);
    29         // 几号
    30         Elements elements3 = elements1.select("h2");
    31         String number = elements3.get(0).text();
    32         System.out.println(number);
    33         // 是否有雨
    34         Elements elements4 = elements1.select("[class=wea]");
    35         String rain = elements4.get(0).text();
    36         System.out.println(rain);
    37         // 高的温度
    38         Elements elements5 = elements1.select("span");
    39         String highTemperature = elements5.get(0).text()+"°C";
    40         System.out.println(highTemperature);
    41         // 低的温度
    42         String lowTemperature = elements5.get(1).text()+"°C";
    43         System.out.println(lowTemperature);
    44         // 风力
    45         Elements elements6 = elements1.select("i");
    46         String wind = elements6.get(2).text();
    47         System.out.println(wind);
    48     }
    49 }
    复制代码
     
     
    结果打印出:
     
    1 今天
    2 8日
    3 雷阵雨
    4 33°C
    5 25°C
    6 微风
     
     
    【详解】
     
    附:
     
    jsoup的官方中文文档为:http://www.open-open.com/
    API为:http://jsoup.org/apidocs/
    java代码第13行:
     
      从文档中我们可用看出,获取数据源的方法有三:
     
    (1)从一段html代码字符串获取:  Document doc = Jsoup.parse(html);
     
    (2)从一个url获取:        Document doc = Jsoup.connect("http://example.com/").get();
     
    (3)从一个html文件获取      File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
     
    这里,我们采取了第二种方法,从url中获取。
     
    java代码第24、26、30、34、38行:
     
      Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。
     
    注:以下表格的结果都是使用以下语句打印出来的
     
    for(Element e : elements) {
                System.out.println(e.text());
            }
     
     
    select详解
    描述 测试的HTML代码 select写法
    结果
     
    通过
     
    标签名
     
    来查找
     
    33
    25
     
     
    Elements elements = doc.select("span");
     
     
    注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。
    33
    25
     
     
    通过 
     
    id 
     
    来查找
     
     
     
    36
     
    20
     
     
     
    Elements elements = doc.select("#mySpan");
     注:通过id来查找,使用方法跟css指定元素一样,用#
     
    36
     
     
     通过
     
     class名
     
     来查找
     
     
     
    36
    20
     
     
     
     
     
    Elements elements = doc.select(".myClass");
    注:通过id来查找,使用方法跟css指定元素一样,用 . 
     
    36
     
     
     利用标签内 
     
    属性名
     
     查找元素
     
     
    36
    36
     
     
     
    Elements elements = doc.select("span[class=class1]span[id=id1]");
     注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。
     
     
    36
     
     
    利用标签内 
     
    属性名前缀 
     
    查找元素
     
     
    36
    22
     
     
     
    Elements elements = doc.select("span[^cl]");
     注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。
     
     
    36
    22
     
     
     利用标签内
     
    属性名+正则表达式
     
    查找元素
     
     
    36
    22
     
     
     
    Elements elements = doc.select("span[class~=^AB]");
     注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】
     
     
    36
     
     
     利用标签
     
    文本包含某些内容
     
    来查找
     
     
    36
    22
     
     
     
     
     
    Elements elements = doc.select("span:contains(3)");
     
     注:规则为 标签名:contains(文本值)
     
     
    36
     
     
     利用标签
     
    文本包含某些内容+正则表达式
     
    来查找
     
     
    36
    22
     
     
     
    Elements elements = doc.select("span:matchesOwn(^3)");
     注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签
     
     
    36
     
     
    关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。
     
    select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。
     
    而想得到节点的其他属性,可以看API的介绍。


    出处:http://www.2cto.com/kf/201408/324292.html