（一）问候 HttpClient

第一节： HttpClient 简介

HttpClient 是 Apache Jakarta Common 下的子项目，可以用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包，并且它支持 HTTP 协议最新的版本和建议。

 

官方站点：http://hc.apache.org/

 

最新版本4.5 http://hc.apache.org/httpcomponents-client-4.5.x/

 

官方文档： http://hc.apache.org/httpcomponents-client-4.5.x/tutorial/html/index.html

 

 maven地址：

<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpclient</artifactId>
    <version>4.5.2</version>
</dependency>

 

HTTP 协议可能是现在 Internet 上使用得最多、最重要的协议了，越来越多的 Java 应用程序需要直接通过 HTTP 协议来访问网络资源。虽然在 JDK 的 java net包中已经提供了访问 HTTP 协议的基本功能，但是对于大部分应用程序来说，JDK 库本身提供的功能还不够丰富和灵活。HttpClient 是 Apache Jakarta Common 下的子项目，用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包，并且它支持 HTTP 协议最新的版本和建议。HttpClient 已经应用在很多的项目中，比如 Apache Jakarta 上很著名的另外两个开源项目 Cactus 和 HTMLUnit 都使用了 HttpClient。现在HttpClient最新版本为 HttpClient 4.5 (GA) （2015-09-11）

 

我们搞爬虫的，主要是用HttpClient模拟浏览器请求第三方站点url，然后响应，获取网页数据，然后用Jsoup来提取我们需要的信息；

 

第二节： HttpClient HelloWorld 实现

 

HttpClient HelloWorld实现

 

前面我们介绍了HttpClient 这个框架主要用来请求第三方服务器，然后获取到网页，得到我们需要的数据；

 

所以今天搞个简单实例，让大家体验一把。

 

首先建一个Maven项目，然后添加httpClient依赖，版本是4.5

<dependency>
    <groupId>org.apache.httpcomponents</groupId>
    <artifactId>httpclient</artifactId>
    <version>4.5.2</version>
</dependency>

package com.javaxk.httpclient;

import java.io.IOException;

import org.apache.http.HttpEntity;
import org.apache.http.ParseException;
import org.apache.http.client.ClientProtocolException;
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

public class HelloWorld {
    
    public static void main(String[] args) {
        CloseableHttpClient httpClient=HttpClients.createDefault(); // 创建httpClient实例
        HttpGet httpGet=new HttpGet("http://www.javaxk.com/"); // 创建httpget实例
        CloseableHttpResponse response = null;
        try {
            response = httpClient.execute(httpGet);    // 执行http get请求
        } catch (ClientProtocolException e) {    //http协议异常
            // TODO Auto-generated catch block
            e.printStackTrace();
        } catch (IOException e) {    //io异常
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
        HttpEntity entity=response.getEntity(); // 获取返回实体
        try {
            System.out.println("网页内容："+EntityUtils.toString(entity, "utf-8"));// 指定编码打印网页内容
        } catch (ParseException e) {    //解析异常
            // TODO Auto-generated catch block
            e.printStackTrace();
        } catch (IOException e) {    //io异常
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
        try {
            response.close();    // response关闭
        } catch (IOException e) {    // io异常
            // TODO Auto-generated catch block
            e.printStackTrace();
        } 
        try {
            httpClient.close();        // httpClient关闭
        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        } 
    }

}

 

运行输出：

 

这里得到了网站首页源码，当然要获得具体数据的话，要用到Jsoup，我们后面会讲解该技术；

 

假如你对这些异常都熟悉 我们可以简化下，异常抛出，这样代码可读性好点。

package com.javaxk.httpclient;

import java.io.IOException;

import org.apache.http.HttpEntity;
import org.apache.http.client.ClientProtocolException;
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

public class HelloWorld2 {
    
    public static void main(String[] args) throws ClientProtocolException, IOException {
        CloseableHttpClient httpClient=HttpClients.createDefault(); // 创建httpClient实例
        HttpGet httpGet=new HttpGet("http://www.javaxk.com/"); // 创建httpget实例
        CloseableHttpResponse response=httpClient.execute(httpGet); // 执行http get请求
        HttpEntity entity=response.getEntity(); // 获取返回实体
        System.out.println("网页内容："+EntityUtils.toString(entity, "utf-8")); // 获取网页内容
        response.close(); // response关闭
        httpClient.close(); // httpClient关闭
    }

}

 

但是实际开发的话，我们对于每一种异常的抛出，catch里都需要做一些业务上的操作，所以以后用的话，还是第一种，假如爬虫任务很简单，容易爬取，并且量小，那就第二种。还是要根据具体情况来。