如何遍历文件夹下上亿文件而不栈溢出
序:一个文件夹下面有很多层的小文件,如何算出这个文件夹下面有多少文件?递归遍历,简单暴力,递归在一般情况确实是比较方便的解决方案,但是当文件夹深度多深,递归的反复调用会导致方法一直无法释放,造成jvm的栈溢出。那我们该怎么办?
原文和作者一起讨论:http://www.cnblogs.com/intsmaze/p/6031894.html
说实话这个问题我以前也没有遇到过,我是听一位我很敬佩的IT前辈讲的他曾经的面试经历。他说他当时比较紧张就想到了递归,没有想到其他的方案。
当然他跟我说这个问题的时候,它也没有想到好的处理方案。它认为这种情况可以参考网络爬虫的递归,为了防止爬虫在一个深度出不来,通常会设置每一次爬的深度,然后通过各种的限制条件来保证每一个文件都被访问到。
当时我灵光一闪,因为当时我在温故数据结构的知识,我说这个文件夹的层次看着好呀嘛好眼熟,不就相当于一个树的结构,那我们学数据结构的时候是如何遍历节点的。有左递归,中递归,右递归,当然这就是上面的递归方法,不是我们要找的解决方案,那么该怎么办?
看,角落里有我们经常忽视的层序遍历。
层序遍历:层序遍历就是从所在树的根节点出发,首先访问第一层的树根节点,然后从左到右访问第2层上的节点,接着是第三层的节点,以此类推,自上而下,自左至右逐层访问树的结点的过程就是层序遍历。
代码思路:
我们只需要使用一个list集合来存储每一个文件(夹),然后按次序读取list集合的元素,并判断如果是文件夹则把该文件夹下的所有文件(夹)追加到list集合后面,然后读取list的下一个元素以此类推。
public class demo { public static void main(String[] args) { List<File> list=new ArrayList<File>(); File file = new File("C:/intsmaze"); list.add(file); for(int i=0;i<list.size();i++) { if(list.get(i).isDirectory()) { File[] tempList = list.get(i).listFiles(); for(int j=0;j<tempList.length;j++) { list.add(tempList[j]); } } } } }
都是有经验的开发人员,上面的代码就没有必要进行注释了。
当然有人会较真,当文件数量很多,就算这代码可以保证栈不溢出,但是list集合数量上去了,堆也会爆的。
当然,这是一种情况,其实也很简单,每从集合读取一个元素,就把该元素从集合溢出,存入硬盘中即可,然后循环里面的判断条件中不对i进行递增即可。
public class demo { public static void main(String[] args) { List<File> list=new ArrayList<File>(); File file = new File("C:/intsmaze"); list.add(file); for(int i=0;i<list.size();) { if(list.get(i).isDirectory()) { File[] tempList = list.get(i).listFiles(); for(int j=0;j<tempList.length;j++) { list.add(tempList[j]); } } list.remove(i); } } }
大家有更好的解决方案可以一起分享讨论.