基于Java的数据采集（一）

之前写过2篇关于PHP数据采集入库的文章：

基于PHP数据采集入库（一）：http://www.cnblogs.com/lichenwei/p/3872307.html

基于PHP数据采集入库（二）：http://www.cnblogs.com/lichenwei/p/3873281.html

 

《基于Java的数据采集（二）》：http://www.cnblogs.com/lichenwei/p/3905370.html

《基于Java数据采集入库（三）》：http://www.cnblogs.com/lichenwei/p/3907007.html

《基于Java数据采集入库（终结篇）》：http://www.cnblogs.com/lichenwei/p/3910492.html

其实采集的原理都是一样的：远程获取信息->提取所需内容（正则）->分类存储->读取->展示

用什么编程语言没所谓，编程语言只是种工具

 

这次来采集一个足球网站的数据：http://www.footballresults.org/league.php?league=EngDiv1

下图是我们要采集的数据：

好了，关于采集原理就看上面那2篇文章吧，剩下的直接上代码：

 

GerData.java(采集数据方法封装)

其实也就是简单的匹配正则：

group():返回在以前匹配操作期间由给定组捕获的输入子序列。

find():尝试查找与该模式匹配的输入序列的下一个子序列。

 1 package com.lcw.curl;

import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class GetData {
    
    /**
     * 
     * @param regex 正则表达式
     * @param content 所要匹配的内容
     * @return
     */
    public String getData(String regex,String content){
        Pattern pattern=Pattern.compile(regex, Pattern.CASE_INSENSITIVE);//设定正则表达式，不区分大小写
        Matcher matcher=pattern.matcher(content);
        if(matcher.find()){
            return matcher.group();
        }else{
            return "";
        }
    }

}

 

CurlMain.java（主程序）

InputStreamReader()是字节流通向字符流的桥梁。

InputStreamReader()是字节流通向字符流的桥梁。

openStream()打开到此URL的连接并返回一个用于从该连接读入的字节流。


package com.lcw.curl;

import java.io.BufferedReader;
import java.io.InputStreamReader;
import java.net.URL;


public class CurlMain {

    /**
     * @param args
     */
    public static void main(String[] args) {
        try {
            String address="http://www.footballresults.org/league.php?league=EngDiv1";
            URL url=new URL(address);
            InputStreamReader inputStreamReader=new InputStreamReader(url.openStream(),"utf-8");//打开地址，以UTF-8编码的形式返回字节并转为字符
            BufferedReader bufferedReader=new BufferedReader(inputStreamReader);//从字符输入流中读取文本，缓冲各个字符，从而提供字符、数组和行的高效读取。
            
            GetData data=new GetData();
            String content="";//用来接受每次读取的行字符
            int flag=0;//标志,队伍信息刚好在日期信息后面,则正则相同，用于分离数据
            String dateRegex="\\d{1,2}\\.\\d{1,2}\\.\\d{4}";//日期匹配正则表达式
            String teamRegex=">[^<>]*</a>";//队伍匹配正则表达式
            String scoreRegex=">(\\d{1,2}-\\d{1,2})</TD>";//比分正则表达式
            int i=0;//记录信息条数
            
            while((content=bufferedReader.readLine())!=null){//每次读取一行数据
                //获取比赛日期信息
                String dateInfo=data.getData(dateRegex, content);
                if(!dateInfo.equals("")){
                    System.out.println("日期:"+dateInfo);
                    flag++;
                }
                //获取队伍信息，需先读到日期信息让标志符自增
                String teamInfo=data.getData(teamRegex, content);
                if(!teamInfo.equals("")&&flag==1){
                    teamInfo=teamInfo.substring(1, teamInfo.indexOf("</a>"));
                    System.out.println("主队:"+teamInfo);
                    flag++;
                }else if (!teamInfo.equals("") && flag == 2) {  
                    teamInfo = teamInfo.substring(1, teamInfo.indexOf("</a>"));
                    System.out.println("客队:" + teamInfo);  
                    flag = 0;
                }
                //获取比分信息
                String scoreInfo=data.getData(scoreRegex, content);
                if(!scoreInfo.equals("")){
                    scoreInfo=scoreInfo.substring(1, scoreInfo.indexOf("</TD>"));
                    System.out.println("比分:"+scoreInfo);
                    System.out.println();
                    i++;
                }
                
            }
            bufferedReader.close();
            System.out.println("一共收集到了"+i+"条信息");
        } catch (Exception e) {
            e.printStackTrace();
        }
        
    }
    

}

 

数据轻松采集，效果如下图：