断点续传的多线程下载

一、多线程下载

        多线程下载就是抢占服务器资源
        原理:服务器CPU 分配给每条线程的时间片相同,服务器带宽平均分配给每条线程,所以客户端开启的线程越多,就能抢占到更多的服务器资源。
        
       1、设置开启线程数,发送http请求到下载地址,获取下载文件的总长度
          然后创建一个长度一致的临时文件,避免下载到一半存储空间不够了,并计算每个线程下载多少数据       
       2、计算每个线程下载数据的开始和结束位置
          再次发送请求,用 Range 头请求开始位置和结束位置的数据
       3、将下载到的数据,存放至临时文件中
       4、带断点续传的多线程下载
          定义一个int变量,记录每条线程下载的数据总长度,然后加上该线程的下载开始位置,得到的结果就是下次下载时,该线程的开始位置,把得到的结果存入缓存文件,当文件下载完成,删除临时进度文件。
public class MultiDownload {

    static int ThreadCount = 3;
    static int finishedThread = 0;
    //确定下载地址
    static String filename = "EditPlus.exe";
    static String path = "http://192.168.3.45:8080/"+filename;
    public static void main(String[] args) {
        //1、发送get请求,去获得下载文件的长度
        try {
            URL url = new URL(path);
            HttpURLConnection conn = (HttpURLConnection) url.openConnection();
            conn.setRequestMethod("GET");
            conn.setConnectTimeout(5000);
            conn.setReadTimeout(5000);
            
            if (conn.getResponseCode()==200) {
                //如果请求成功,拿到所请求资源文件的长度
                int length = conn.getContentLength();
                
                //2、生成一个与原文件同样的大小的临时文件,以免下载一半存储空间不够了
                File file = new File(filename);//演示,所以将保存的文件目录放在工程的同目录
                //使用RandomAccessFile 生成临时文件,可以用指针定位文件的任意位置,
                //而且能够实时写到硬件底层设备,略过缓存,这对下载文件是突然断电等意外是有好处的
                RandomAccessFile  raf = new RandomAccessFile(file, "rwd");//rwd, 实时写到底层设备
                //设置临时文件的大小
                raf.setLength(length);
                raf.close();
                
                //3、计算出每个线程应该下载多少个字节
                int size = length/ThreadCount;//如果有余数,负责最后一部分的线程负责下砸
                
                //开启多线程
                for (int threadId = 0; threadId < ThreadCount; threadId++) {
                    //计算每个线程下载的开始位置和结束位置
                    int startIndex = threadId*size;  // 开始 = 线程id * size
                    int endIndex = (threadId+1)*size - 1; //结束 = (线程id + 1)*size - 1
                    //如果是最后一个线程,那么结束位置写死为文件结束位置
                    if (threadId == ThreadCount - 1) {
                        endIndex = length - 1;
                    }
                    
                    //System.out.println("线程"+threadId+"的下载区间是: "+startIndex+"----"+endIndex);
                    new DownloadThread(startIndex,endIndex,threadId).start();
                }
            }
        } catch (MalformedURLException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

class DownloadThread extends Thread{
    
    private int startIndex;
    private int endIndex;
    private int threadId;

    public DownloadThread(int startIndex, int endIndex, int threadId) {
        super();
        this.startIndex = startIndex;
        this.endIndex = endIndex;
        this.threadId = threadId;
    }

    @Override
    public void run() {
         //每个线程再次发送http请求,下载自己对应的那部分数据
        try {
            File progressFile = new File(threadId+".txt");
            //判断进度文件是否存在,如果存在,则接着断点继续下载,如果不存在,则从头下载
            if (progressFile.exists()) {
                FileInputStream fis = new FileInputStream(progressFile);
                BufferedReader br = new BufferedReader(new InputStreamReader(fis));
                //从进度文件中度取出上一次下载的总进度,然后与原本的开始进度相加,得到新的开始进度
                startIndex += Integer.parseInt(br.readLine());
                fis.close();
            }
            System.out.println("线程"+threadId+"的下载区间是:"+startIndex+"----"+endIndex);
            
            //4、每个线程发送http请求自己的数据
            URL url = new URL(MultiDownload.path);
            HttpURLConnection conn = (HttpURLConnection) url.openConnection();
            conn.setRequestMethod("GET");
            conn.setConnectTimeout(5000);
            conn.setReadTimeout(5000);
            //设置本次http请求所请求的数据的区间
            conn.setRequestProperty("Range", "bytes="+startIndex+"-"+endIndex);
            
            //请求部分数据,响应码是206
            if (conn.getResponseCode()==206) {
                //此时,流里只有ThreadCount分之一的原文件数据
                InputStream is = conn.getInputStream();
                byte[] b = new byte[1024];
                int len = 0;
                int total = 0;//total 用于保存断点续传的断点
                //拿到临时文件的输出流
                File file = new File(MultiDownload.filename);
                RandomAccessFile raf = new RandomAccessFile(file, "rwd");
                //把文件的写入位置移动至 startIndex
                raf.seek(startIndex);
                
                while ((len = is.read(b))!=-1) {
                    //每次读取流里数据之后,同步把数据写入临时文件
                    raf.write(b, 0, len);
                    total += len;
                    
                    //System.out.println("线程" + threadId + "下载了" + total);
                    //生成一个一个专门用来记录下载进度的临时文件
                    RandomAccessFile progressRaf = new RandomAccessFile(progressFile, "rwd");
                    progressRaf.write((total+"").getBytes());
                    progressRaf.close();
                }
                System.out.println("线程"+threadId+"下载完了---------------------");
                raf.close();
                
                //当所有的线程下载完之后,将进度文件删除
                MultiDownload.finishedThread++;
                synchronized (MultiDownload.path) {//所有线程使用同一个锁
                    if (MultiDownload.finishedThread==MultiDownload.ThreadCount) {
                        for (int i = 0; i < MultiDownload.ThreadCount; i++) {
                            File f = new File(i+".txt");
                            f.delete();
                        }
                        MultiDownload.finishedThread=0;
                    }
                }
            }    
        } catch (Exception e) {
            e.printStackTrace();
        }
        
    }
}

 

posted @ 2015-10-09 13:43  新手娃娃菜  阅读(189)  评论(0编辑  收藏  举报