Linux对稀疏（Sparse）文件的支持

稀疏（Sparse）文件的创建

在EXT2/EXT3文件系统上可以使用dd创建稀疏文件：

$ dd if=/dev/zero of=fs.img bs=1M seek=1024 count=0
0+0 records in
0+0 records out
$ ls -lh fs.img
-rw-rw-r-- 1 zhigang zhigang 1.0G Feb 5 19:50 fs.img
$ du -sh fs.img
0 fs.img
使用C语言来创建一个稀疏文件的方法如下：

$ cat sparse.c
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>

int main(int argc, char *argv[])
{
    int fd = open("sparse.file", O_RDWR|O_CREAT);
    lseek(fd, 1024, SEEK_CUR);
    write(fd, "\0", 1);

    return 0;
}

$ gcc -o sparse sparse.c
$ ./sparse
$ ls -l sparse.file
-r-x--x---  1 zhigang zhigang 1025 Feb  5 23:12 sparse.file
]$ du sparse.file
4       sparse.file
使用python来创建一个稀疏文件的方法如下：

$ cat sparse.py
#!/usr/bin/env python

f = open('fs.img', 'w')
f.seek(1023)
f.write('\n')

$ python sparse.py
$ ls -l fs.img
-rw-rw-r--  1 zhigang zhigang 1024 Feb  5 20:15 fs.img
$ du fs.img
4       fs.img

文件稀疏化（sparsify）

下面的方法都可以将一个文件稀疏化。

1. cp:

$ cp --sparse=always file file.sparse

cp缺省使用--sparse=auto，会自动探测源文件中是否有空洞，以决定目标文件是否为稀疏文件；使用--sparse=never会禁止创建稀疏文件。

2. cpio:

$ find file |cpio -pdmuv --sparse /tmp

如果不加--sparse参数，稀疏文件中的空洞将被填满。

3. tar:

$ tar cSf - file | (cd /tmp/tt; tar xpSf -)

如果不加 -S --sparse参数，稀疏文件中的空洞将被填满。

文件稀疏化（sparsify）效率比较

下面我们创建一个500M的稀疏文件，比较一下几种文件稀疏化方法的效率。

$ dd if=/dev/zero of=file count=100 bs=1M seek=400
100+0 records in
100+0 records out
$ time cp --sparse=always file file.sparse
real    0m0.626s
user    0m0.205s
sys     0m0.390s

$ time tar cSf - file | (cd /tmp; tar xpSf -)
real    0m2.732s
user    0m1.706s
sys     0m0.915s

$ time find file |cpio -pdmuv --sparse /tmp
/tmp/file
1024000 blocks
real    0m2.763s
user    0m1.793s
sys     0m0.946s

由此可见，上面几种文件稀疏化的方法中，cp的效率最高；tar和cpio由于使用管道，效率下降。

使EXT2/EXT3文件系统稀疏化（sparsify）

如何是一个文件系统的映像文件稀疏化？Ron Yorston为大家提供了几种方法，我觉得下面的方法最简单：

1. 使用Ron Yorston的zerofree将文件系统中未使用的块清零。

$ gcc -o zerofree zerofree.c -lext2fs
$ ./zerofree fs.img

2.使用cp命令使映像文件稀疏化：

$ cp --sparse=always fs.img fs_sparse.img

EXT2/EXT3文件系统的sparse_super参数

这个参数与EXT2/EXT3是否支持Sparse文件无关；当打开该参数时，文件系统将使用更少的超级块（Super block）备份，以节省空间。

如下的命令可以查看该参数：

# echo stats | debugfs /dev/hda2 | grep -i features
Filesystem features:      has_journal ext_attr resize_inode dir_index filetype needs_recovery sparse_super large_file

或者：

# tune2fs -l /dev/hda2 |grep "Filesystem features"
Filesystem features:      has_journal ext_attr resize_inode dir_index filetype needs_recovery sparse_super large_file

可以通过使用：

# tune2fs -O sparse_super

或者：

# tune2fs -s [0|1]

来设置该参数。

参考资料
1. Keeping filesystem images sparse:
http://intgat.tigress.co.uk/rmy/uml/sparsify.html.