FastDFS分布式文件系统

一、分布式文件系统介绍
分布式文件系统：Distributed file system, DFS，又叫做网络文件系统：Network File System。一种允许文件通过网络在多台主机上分享的文件系统，可让多机器上的多用户分享文件和存储空间。
特点：在一个分享的磁盘文件系统中，所有节点对数据存储区块都有相同的访问权，在这样的系统中，访问权限就必须由客户端程序来控制。分布式文件系统可能包含的功能有：透通的数据复制与容错。
分布式文件系统是被设计用在局域网。而分布式数据存储，则是泛指应用分布式运算技术的文件和数据库等提供数据存储服务的系统。
决定因素：数据的存储方式、数据的读取速率、数据的安全机制。
发展历史：大致分为三个发展阶段，网络文件系统(1980s)、共享SAN文件系统(1990s)、面向对象的并行文件系统(2000s)。

二、FastDFS分布式系统架构介绍
FastDFS：是一个开源的轻量级分布式文件系统，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合中小文件（建议范围：4KB < file_size <500MB），对以文件为载体的在线服务，如相册网站、视频网站等。

FastDFS是为互联网应用量身定做的分布式文件系统，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标。和现有的类Google FS分布式文件系统相比，FastDFS的架构和设计理念有其独到之处，主要体现在轻量级、分组方式和对等结构三个方面。

FastDFS架构图
FastDFS服务端有两个角色：跟踪器（tracker）和存储节点（storage）。跟踪器主要做调度工作，在访问上起负载均衡的作用。

FastDFS模块介绍
1）tracker server：跟踪服务器，用来调度来自客户端的请求，且在内存中记录所有存储组和存储服务器的信息状态。
2）storage server：存储服务器，用来存储文件(data)和文件属性(metadata)。
3）client：客户端，业务请求发起方，通过专用接口基于TCP协议与tracker server和storage server进行交互。
4）group：组，也可称为卷，同组内上的文件是完全相同的。
5）文件标识：包括两部分，组名（group）和文件名（含路径）
6）文件相关属性：键值对(Key Value Pair)方式
7）文件名：与原文件名并不相同。由storage server根据特定信息生成，并且可逆，文件名包含：源存储服务器的IP地址、文件创建时间戳、文件大小、随机数和文件扩展名等。

FastDFS由跟踪服务器(Tracker Server)、存储服务器(Storage Server)和客户端(Client)构成，其中：

跟踪服务器Tracker Server
主要做调度工作，起到均衡的作用；负责管理所有的 storage server和 group，每个 storage 在启动后会连接 Tracker，告知自己所属 group 等信息，并保持周期性心跳。tracker根据storage的心跳信息，建立group==>[storage serverlist]的映射表。
Tracker需要管理的元信息很少，会全部存储在内存中；另外tracker上的元信息都是由storage汇报的信息生成的，本身不需要持久化任何数据，这样使得tracker非常容易扩展，直接增加tracker机器即可扩展为tracker cluster来服务，cluster里每个tracker之间是完全对等的，所有的tracker都接受stroage的心跳信息，生成元数据信息来提供读写服务。

存储服务器Storage Server
主要提供容量和备份服务；以 group 为单位，每个 group 内可以有多台 storage server，数据互为备份。以group为单位组织存储能方便的进行应用隔离、负载均衡、副本数定制（group内storage server数量即为该group的副本数），比如将不同应用数据存到不同的group就能隔离应用数据，同时还可根据应用的访问特性来将应用分配到不同的group来做负载均衡；缺点是group的容量受单机存储容量的限制，同时当group内有机器坏掉时，数据恢复只能依赖group内地其他机器，使得恢复时间会很长。
group内每个storage的存储依赖于本地文件系统，storage可配置多个数据存储目录，比如有10块磁盘，分别挂载在/data/disk1-/data/disk10，则可将这10个目录都配置为storage的数据存储目录。storage接受到写文件请求时，会根据配置好的规则选择其中一个存储目录来存储文件。为了避免单个目录下的文件数太多，在storage第一次启动时，会在每个数据存储目录里创建2级子目录，每级256个，总共65536个文件，新写的文件会以hash的方式被路由到其中某个子目录下，然后将文件数据作为本地文件存储到该目录中。

客户端Client
主要是上传下载数据的服务器，也就是我们自己的项目所部署在的服务器。每个客户端服务器都需要安装Nginx
基本架构如下图所示。

FastDFS的存储策略
为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。

FastDFS的上传过程
FastDFS向使用者提供基本文件访问接口，比如upload、download、append、delete等，以客户端库的方式提供给用户使用。

Storage Server会定期的向Tracker Server发送自己的存储信息。当Tracker Server Cluster中的Tracker Server不止一个时，各个Tracker之间的关系是对等的，所以客户端上传时可以选择任意一个Tracker。
当Tracker收到客户端上传文件的请求时，会为该文件分配一个可以存储文件的group，当选定了group后就要决定给客户端分配group中的哪一个storage server。当分配好storage server后，客户端向storage发送写文件请求，storage将会为文件分配一个数据存储目录。然后为文件分配一个fileid，最后根据以上的信息生成文件名存储文件。文件名的格式如下：

FastDFS的文件同步
写文件时，客户端将文件写至group内一个storage server即认为写文件成功，storage server写完文件后，会由后台线程将文件同步至同group内其他的storage server。
每个storage写文件后，同时会写一份binlog，binlog里不包含文件数据，只包含文件名等元信息，这份binlog用于后台同步，storage会记录向group内其他storage同步的进度，以便重启后能接上次的进度继续同步；进度以时间戳的方式进行记录，所以最好能保证集群内所有server的时钟保持同步。
storage的同步进度会作为元数据的一部分汇报到tracker上，tracke在选择读storage的时候会以同步进度作为参考。

客户端上传文件后存储与服务器将文件ID返回给客户端，此文件ID用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名。
路径格式：

FastDFS的文件下载
客户端uploadfile成功后，会拿到一个storage生成的文件名，接下来客户端根据这个文件名即可访问到该文件。

跟upload file一样，在downloadfile时客户端可以选择任意tracker server。tracker发送download请求给某个tracker，必须带上文件名信息，tracke从文件名中解析出文件的group、大小、创建时间等信息，然后为该请求选择一个storage用来服务读请求。

FastDFS性能方案

三、Centos下部署FastDFS分布式存储操作记录

 

1、安装gcc（编译时需要）

 

FastDFS是C语言开发，安装FastDFS需要先将官网下载的源码进行编译，编译依赖gcc环境，如果没有gcc环境，需要安装gcc

 

yum install -y gcc gcc-c++

 

 

2、安装libevent（运行时需求）

 

 若安装了桌面图形界面，就不需要安装；FastDFS依赖libevent库；

 

yum -y install libevent

 

 3、 安装libfastcommon

 

 　libfastcommon是FastDFS官方提供的，libfastcommon包含了FastDFS运行所需要的一些基础库。

 

（1）上传 libfastcommonV1.0.7.tar.gz到Centos机器上；

 

（2）将 libfastcommonV1.0.7.tar.gz解压至/usr/local/下：

 

tar -zxvf libfastcommonV1.0.7.tar.gz -C /usr/local/

 

（3）切换目录到：/usr/local/libfastcommon-1.0.7/ 下，接着进行编译和安装；

 

cd /usr/local/libfastcommon-1.0.7/
./make.sh           #编译
./make.sh install   #安装

 

安装后的截图：

 

 

 

 

（4）libfastcommon安装好后会在/usr/lib64 目录下生成  libfastcommon.so 库文件；

 

　　

 

　　注意：由于FastDFS程序引用usr/lib目录所以需要将/usr/lib64下的库文件拷贝至/usr/lib下。

 

cp libfastcommon.so /usr/lib

 

 

 

 4、安装tracker

 

 （1）上传 FastDFS_v5.05.tar.gz 到 centos 上；

 

（2）将FastDFS_v5.05.tar.gz 解压至/usr/local/下

 

tar -zxvf FastDFS_v5.05.tar.gz -C /usr/local

 

（3）切换目录到： /usr/local/FastDFS/ 下，编译和安装；

 

cd /usr/local/FastDFS/
./make.sh && ./make.sh install  #编译之后接着进行安装

 

安装后的截图：

 

 

 

 

（4）安装成功将安装目录下的conf下的文件拷贝到/etc/fdfs/下；

 

cp /usr/local/FastDFS/conf/* /etc/fdfs/

 

 

 

 

 5、配置和启动tracker

 

（1）切换目录到： /etc/fdfs/ 目录下；

 

（2）拷贝一份新的tracker配置文件

 

cp tracker.conf.sample tracker.conf

 

（3）修改tracker.conf ;   vim tracker.conf

 

base_path=/home/yuqing/fastdfs  改为:  base_path=/home/fastdfs
http.server_port  改为： 80

 

base_path=/home/fastdfs
http.server_port=80  #配置http端口

 

（4）创建 /home/fastdfs 目录

 

mkdir /home/fastdfs

 

 （5）启动tracker，运行如下命令：

 

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

 

 

注意：在/home/fastdfs/ 目录下生成两个目录， 一个是数据，一个是日志；

 

 

 

6、配置和启动storage

 

 由于上面已经安装过FastDFS，这里只需要配置storage就好了；

 

（1）切换目录到： /etc/fdfs/ 目录下；

 

（2）拷贝一份新的storage配置文件

 

cp storage.conf.sample storage.conf

 

（3）修改storage.conf ;   vim storage.conf

 

tracker_server=192.168.172.20:22122
#如果有多个则配置多个tracker
#tracker_server=192.168.101.4:22122

#配置http端口
http.server_port=88

 

 （4）创建 /home/fdfs_storage 目录

 

mkdir /home/fdfs_storage

 

（5）启动storage， 运行命令如下：

 

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

 

启动完成后进入 /home/fdfs_storage/data 目录下，显示目录如下：

 

 

 

 

 7、使用FastDFS自带工具测试

 

（1）切换目录到 /etc/fdfs/ 目录下；

 

（2）拷贝一份新的client配置文件

 

cp client.conf.sample client.conf

 

（3）修改client.conf ;   vim client.conf，修改基本路径和tracker_server如下：

 

 

 

  注意：若tracker有多个，可以配置多个，如下:

 

　　#tracker_server=......

 

（4）拷贝一张图片luzhouYue.jpg 到Centos服务器上的 /usr1 目录下；

 

　　

 

（5）进行测试，运行如下：（运行测试程序，读取/etc/fdfs/client.conf 文件，上传/usr1目录下的luzhouYue.jpg文件）

 

/usr/bin/fdfs_test /etc/fdfs/client.conf upload /usr1/luzhouYue.jpg

 

 结果如下，表示搭建成功；

 

 

以上图中的文件地址：http://192.168.172.20/group1/M00/00/00/wKisFFpBG9eAHaQvAAAWKd1hQR4158_big.jpg  对应storage服务器上的/home/fdfs_storage/data/00/00/wKisFFpBG9eAHaQvAAAWKd1hQR4158_big.jpg文件；

 

由于现在还没有和nginx整合无法使用http下载。

 

 

 

8、FastDFS 和nginx整合

 

 8.1 在tracker上安装 nginx

 

 在每个tracker上安装nginx，的主要目的是做负载均衡及实现高可用。如果只有一台tracker可以不配置nginx。

 

 一个tracker对应多个storage，通过nginx对storage负载均衡；

 

 8.2 在storage 上安装nginx

 

 （1）上传 fastdfs-nginx-module_v1.16.tar.gz 到Centos服务器上；

 

（2）解压 fastdfs-nginx-module_v1.16.tar.gz 到 /usr/local目录下；

 

tar -zxvf fastdfs-nginx-module_v1.16.tar.gz -C /usr/local

 

（3）切换目录到： /usr/local/fastdfs-nginx-module/src/ 目录下

 

cd /usr/local/fastdfs-nginx-module/src/

 

（4）修改config文件，将文件中的所有 /usr/local/ 路径改为 /usr/

 

 

 

修改完成后：

 

 

（5）将fastdfs-nginx-module/src下的mod_fastdfs.conf拷贝至/etc/fdfs/下

 

cp mod_fastdfs.conf /etc/fdfs/

 

（6）并修改 /etc/fdfs/mod_fastdfs.conf 的内容；vi /etc/fdfs/mod_fastdfs.conf

 

 base_path=/tmp 修改为 base_path=/home/fastdfs

 

base_path=/home/fastdfs
tracker_server=192.168.172.20:22122 
#tracker_server=192.168.172.20:22122 #(多个tracker配置多行)
url_have_group_name=true        #url中包含group名称
store_path0=/home/fdfs_storage  #指定文件存储路径（上面配置的store路径）

 

（7）将libfdfsclient.so拷贝至/usr/lib下

 

cp /usr/lib64/libfdfsclient.so /usr/lib/

 

（8）创建nginx/client目录

 

mkdir -p /var/temp/nginx/client

 

 

 

8.3 Nginx的安装

 

（1）上传 nginx-1.8.0.tar.gz 到Centos服务器上；

 

（2）解压 nginx-1.8.0.tar.gz 到 /usr/local目录下；

 

tar -zxvf nginx-1.8.0.tar.gz -C /usr/local/

 

（3）安装nginx的依赖库

 

yum install pcre
yum install pcre-devel
yum install zlib
yum install zlib-devel
yum install openssl
yum install openssl-devel

 

（4）进入nginx解压的目录下：cd /usr/local/nginx-1.8.0/

 

（5）加入模块命令配置

 

./configure \
--prefix=/usr/local/nginx \
--pid-path=/var/run/nginx/nginx.pid \
--lock-path=/var/lock/nginx.lock \
--error-log-path=/var/log/nginx/error.log \
--http-log-path=/var/log/nginx/access.log \
--with-http_gzip_static_module \
--http-client-body-temp-path=/var/temp/nginx/client \
--http-proxy-temp-path=/var/temp/nginx/proxy \
--http-fastcgi-temp-path=/var/temp/nginx/fastcgi \
--http-uwsgi-temp-path=/var/temp/nginx/uwsgi \
--http-scgi-temp-path=/var/temp/nginx/scgi \
--add-module=/usr/local/fastdfs-nginx-module/src

 

　　

 

注意：上边将临时文件目录指定为/var/temp/nginx，需要在/var下创建temp及nginx目录；

 

（6）编译并安装

 

make && make install

 

安装成功后查看生成的目录，如下所示：

 

 

 

 

（7）拷贝配置文件到 /etc/fdfs 下；

 

cd /usr/local/FastDFS/conf
cp http.conf mime.types /etc/fdfs/

 

（8）修改nginx配置文件

 

 

mkdir /usr/local/nginx/logs # 创建logs目录
cd /usr/local/nginx/conf/
vim nginx.conf

 

做如下的修改：

 

　　

 

　　

 

说明：

 

　　(a.) server_name指定本机ip；

 

　　(b.) location /group1/M00/：group1为nginx 服务FastDFS的分组名称，M00是FastDFS自动生成编号，对应store_path0=/home/fdfs_storage，如果FastDFS定义store_path1，这里就是M01

 

 

 

 （9）nginx的启动

 

cd /usr/local/nginx/sbin/
./nginx 

 

 查询nginx进程

 

　　

 

（10） fastdfs 和 nginx 服务的开机自启动： http://www.cnblogs.com/yufeng218/p/8215381.html

 

 9、在浏览器中访问上传到fastDFS的图片

 

因为Centos系统有防火墙，需要先关闭掉，才可以在浏览器中访问；

 

（1）CentOS 7.0默认使用的是firewall作为防火墙；若没有启用iptables 作为防火墙，则使用以下方式关闭防火墙：

 

systemctl stop firewalld.service #停止firewall
systemctl disable firewalld.service #禁止firewall开机启动
firewall-cmd --state #查看默认防火墙状态（关闭后显示notrunning，开启后显示running）

 

　　

 

（2）若已经启用iptables作为防火墙，则使用以下方式关闭：

 

service iptables stop  #临时关闭防火墙
chkconfig iptables off #永久关闭防火墙

 

防火墙的相关链接：http://www.jb51.net/article/101576.htm

 

　　　　　　　　   http://www.linuxidc.com/Linux/2015-05/117473.htm

 

 （3）在谷歌浏览器中访问刚才上传的图片：

 

刚才上传的图片地址为：http://192.168.172.20/group1/M00/00/00/wKisFFpBG9eAHaQvAAAWKd1hQR4158_big.jpg