分布式文件系统KFS源码编译与安装过程
Kosmos distributed file system (KFS)是一个专门为数据密集型应用（搜索引擎，数据挖掘等）而设计的存储系统，类似于Google的GFS和Hadoop的HDFS分布式文件系统。 KFS使用C++实现，支持的客户端包括C++，Java和Python。
以前曾在开源KFS基础上做过开发，这里介绍一下如何进行KFS的源码编译与安装过程（以kfs-0.5为例）。
1.安装依赖软件
为了编译和运行KFS文件系统，需要安装以下软件包：
- Boost (1.34或以上)
- cmake (2.4.6或以上)
- log4cpp (1.0或以上)
- gcc version (4.1或以上)
- xfs devel RPMs on Linux
下面介绍的是手动安装以上软件包的过程，这里假设你已经下载完成软件包压缩文件。
1、安装gcc
1 tar zxvf gcc-4.1.2.tar.gz
2 mkdir/usr/local/gcc-4.1.2
3 cd gcc-4.1.2
4 ./configure --prefix=/usr/local/gcc-4.1.2 --enable-threads=posix --disable-checking --enable--long-long --host=i386-redhat-linux--with-system-zlib --enable-languages=c,c++,java
5 make
6 make install
备注：以上过程将gcc安装在/usr/local/gcc-4.1.2目录下，支持C/C++和JAVA语言，其它选项参见gcc提供的帮助说明。
2、安装log4cpp
1 tar xvzf log4cpp-1.0.tar.gz
2 cd log4cpp-1.0
3 ./configure
4 make
5 make install
3、安装xfs
1 tar xvzf xfsprogs-3.0.1.tar.gz
2 cd xfsprogs-3.0.1
3 ./configure
4 make
5 make install
6 make install-dev
4、安装cmake
1 tar xvzf cmake-2.6.4.tar.gz
2 cd cmake-2.6.4
3 ./bootstrap
4 make
5 make install
5、安装boost
1 tar xvzf boost_1_39_0.tar.gz
2 cd boost_1_39_0
3 ./bootstrap.sh
4 ./bjam -sTOOLS=gcc --without-python install
2.编译和安装KFS
首先，到sourceforge下载kfs-0.5.tar.gz（点击下载），这里假设下载后目录为用户根目录。
然后，解压KFS软件包，这里假设解压后KFS所在目录：~/kfs-0.5，编译源码所在目录：~/kfs-0.5/build。
为了完整编译KFS，需要有以下三部分：
- 编译C++部分，生成MetaServer/ChunkServer，各种API操作的tools，C++客户端；
- 编译Java部分，生成kfs.jar，即Java客户端，以通过Java JNI调用本地的C++方法；
- 编译Python扩展模块，生成Python客户端。
2.1 编译C++部分
1 tar xvzf kfs-0.5.tar.gz
2 cd kfs-0.5
3 mkdir build
4 cd build
5 cmake -D CMAKE_BUILD_TYPE=RelWithDebInfo ~/kfs-0.5
6 gmake
7 gmake install
编译之后，二进制文件将被安装在以下目录：
- 可执行文件：~/kfs-0.5/build/bin
- 库文件：~/kfs-0.5/build/lib
备注：编译KFS过程中，带上了debug调试信息。
2.2 编译Java部分
1 cd ~/kfs-0.5
2 ant jar
编译之后，生成的文件为：
- Java class文件：~/kfs-0.5/build/classes
- Java Jar包：~/kfs-0.5/build/kfs-0.5.jar
最后，将生成的Jar包添加到CLASSPATH环境变量中：
1 export CLASSPATH=${CLASSPATH}:~/kfs-0.5/build/kfs-0.5.jar
2.3 编译Python扩展模块
为了编译Python扩展模块，首先需要进行步骤2.1，生成KFS客户端库文件，这里库文件所在目录是：~/kfs-0.5/。
编译Python扩展模块的步骤：
1 cd to ~/kfs-0.5/src/cc/access
2 Edit kfs_setup.py and setup the include path. Specifically, kfsext = Extension('kfs', include_dirs ['kfs/src/cc/', '<path to boost>'])
3 python kfs_setup.py ~/kfs-0.5/build/lib/ build
编译之后，生成共享链接库kfs.so，进行安装：
1 python kfs_setup.py ~/kfs-0.5/build/lib/ install
如果要安装到一个指定的目录下（如~/kfs-0.5/build/lib），需要设置home选项：
1 python kfs_setup.py ~/kfs-0.5/build/lib install --home=~/kfs-0.5/build/lib
同时，需要更新PYTHONPATH和LD_LIBRARY_PATH环境变量：
1 export PYTHONPATH=${PYTHONPATH}:~/kfs-0.5/build/lib/lib64/python
2 export LD_LIBRARY_PATH=${LD_LIBRARY_PATH}:~/kfs-0.5/build/lib
3.启动KFS服务进程
1、 MetaServer
1 cd ~/kfs-0.5/build/src/cc/meta
2 cp ~/kfs-0.5/conf/MetaServer.prp ./
3 ./metaserver MetaServer.prp
备注：这里需要提前创建MetaServer.prp中指定的和logDir和cpDir目录：./kfslog和./kfscp。
2、ChunkServer
1 cd~/kfs-0.5/build/src/cc/chunk
2 cp ~/kfs-0.5/conf/ChunkServer.prp ./
3 ./chunkserver ChunkServer.prp
3、KfsClient
1 cd ~/kfs-0.5/build/src/cc/tools
2 ./kfsshell –s <meta server name> -p <port>
3 ./cptokfs –s <meta server name> -p <port> -d <source path> -k <kfs path>
4 ./cpfromkfs –s <meta server name> -p <port> -d <source path> -k <kfs path>
备注：~/kfs-0.5/build/src/cc/tools目录下有各种API操作工具，如kfsshell、cptokfs、cpfromkfs等，这里没有一一列举。
4.查看和关闭KFS服务进程
1、查看进程
1 ps –aux | grep metaserver
2 ps –aux | grep chunkserver
3 ps –aux | grep kfsshell
2、关闭进程
1 kill -9<pid>
5.参考资料
-
http://code.google.com/p/kosmosfs/
-
http://sourceforge.net/projects/kosmosfs/
