Alluxio基于Zookeeper高可用HA搭建以及客户端连接高可用Alluxio方法
由于官网上给出的信息不是很详细,可能搭建alluxio高可用过程中会遇到一些坑,这里简要写一个教程,给自己也给需要帮助的人做一个提示。
Alluxio HA基于zookeeper,底层存储在hdfs上,故首先需要安装hadoop和zookeeper。
Alluxio的下载、解压这些步骤无需赘述,基本套路,官网上也有详细的教程。具体可以参考官网 : http://www.alluxio.org/docs/1.7/cn 。
Alluxio的高可用需要配置 $ALLUXIO_HOME/conf/ 下的3个文件,alluxio-env.sh 和masters、worker三个文件
1、主机和角色分布:机器够用的话可以适当的把master和worker分开,后续配置上修改即可
2、topsec1的master配置,配置文件 alluxio-env.sh
3、topsec2的master配置,配置文件 alluxio-env.sh
4、topsec3 worker节点,无需配置ALLUXIO_MASTER_HOSTNAME,配置文件 alluxio-env.sh
5、配置masters、workers
配置文件 : masters
配置文件 : workers
6、分发masters、workers文件到其他节点,alluxio-env.sh文件两个主节点之间和主节点与worker节点之间是不一样的,故不能分发!!!
7、接下来在任一主节点格式化alluxio,alluxio format,然后启动 alluxio-start.sh all即可(这里官网说的比较详细,简要写一下)
客户端连接方法:
我要把所有的坑都趟平!