一站式指南:ClkLog部署环境配置指南
在今天的数字化世界中,数据管理和分析工具的选择对于企业的成功至关重要。ClkLog作为一款强大的日志分析工具,能够帮助企业从海量数据中洞察业务、提升效率。然而,如何才能顺利部署ClkLog系统,使其最大化地服务于您的业务呢?本篇文章将提供一站式的ClkLog部署指南,无论您是IT新手还是资深工程师,都能通过我们的指南,轻松掌握ClkLog的部署步骤和技巧,使得数据的收集、分析和管理变得更加简单、高效。
环境准备
● CentOS 7
● JDK 1.8
● Nginx 1.18
● Redis 3.2.4
● Zookeeper 3.7.1
● Kafka 2.12-3.3.1
● Flink 1.14.6
● Clickhouse 23.2.1
● nodejs >= 8.9
● npm >=3.0.0
初始化步骤参考
创建安装目录
1 mkdir /usr/local/services
Java 1.8 安装参考
下载 jdk-8u211-linux-x64.rpm
1 rpm -ivh jdk-8u211-linux-x64.rpm 2 Copy to clipboard 3 Error 4 Copied
nginx 安装参考
1 yum install nginx 2 systemctl start nginx 3 Copy to clipboard 4 Error 5 Copied
Redis 3.2.4 安装参考
1. 从 Redis 官网下载安装包
1 wget https://download.redis.io/releases/redis-3.2.4.tar.gz 2 Copy to clipboard 3 Error 4 Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入redis安装目录:
1 cd /usr/local/services/ 2 tar xzf redis-3.2.4.tar.gz 3 cd redis-3.2.4 4 Copy to clipboard 5 Error 6 Copied
3. 编译
1 make 2 Copy to clipboard 3 Error 4 Copied
4. 安装
1 make install 2 Copy to clipboard 3 Error 4 Copied
默认情况下,Redis 会被安装在/usr/local/bin目录下
5. 修改配置
拷贝redis.conf 至/etc/redis/redis.conf
1 mkdir /etc/redis 2 cp redis.conf /etc/redis/redis.conf 3 Copy to clipboard 4 Error 5 Copied
修改配置文件:/etc/redis/redis.conf
1 vim /etc/redis/redis.conf 2 3 protected-mode no 4 daemonize yes 5 appendonly yes 6 Copy to clipboard 7 Error 8 Copied
6. 启动服务
1 /usr/local/bin/redis-server /etc/redis/redis.conf 2 Copy to clipboard 3 Error 4 Copied
7. 检查安装是否成功
1 cd /usr/local/bin 2 ./redis-cli 3 Copy to clipboard 4 Error 5 Copied
Zookeeper 3.7.1 安装参考
1. 从 Zookeeper 官网下载安装包
1 wget --no-check-certificate https://dlcdn.apache.org/zookeeper/zookeeper- 3.7.1/apache-zookeeper-3.7.1-bin.tar.gz 2 Copy to clipboard 3 Error 4 Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Zookeeper安装目录:
1 cd /usr/local/services/ 2 tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz 3 cd apache-zookeeper-3.7.1-bin 4 Copy to clipboard 5 Error 6 Copied
3. 修改配置
拷贝配置文件,并增加配置项
1 cp ./conf/zoo_sample.cfg ./conf/zoo.cfg 2 3 admin.serverPort=8887 4 Copy to clipboard 5 Error 6 Copied
4. 启动zk
1 ./bin/zkServer.sh start 2 Copy to clipboard 3 Error 4 Copied
5. 检查
1 ./bin/zkServer.sh status 2 Copy to clipboard 3 Error 4 Copied
未启动成功,从./logs里查看启动日志
Kafka 2.12-3.3.1 安装参考
1. 从 Kafka 官网下载安装包
1 wget --no-check-certificate
https://archive.apache.org/dist/kafka/3.3.1/kafka_2.12-3.3.1.tgz 2 Copy to clipboard 3 Error 4 Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Kafka安装目录:
1 cd /usr/local/services/ 2 tar -xzf kafka_2.12-3.3.1.tgz 3 cd kafka_2.12-3.3.1 4 Copy to clipboard 5 Error 6 Copied
3. 启动
1 ./bin/kafka-server-start.sh -daemon config/server.properties 2 Copy to clipboard 3 Error 4 Copied
4. 检查
创建名为test的topic
1 ./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic test 2 Copy to clipboard 3 Error 4 Copied
查看to
1 ./bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 --describe --topic test 2 Copy to clipboard 3 Error 4 Copied
不报错正常,如果未启动成功,从./logs里查看启动日志
Flink 1.14.6 安装参考
1. 从 Flink官网下载安装包
1 wget https://archive.apache.org/dist/flink/flink-1.14.6/flink-1.14.6-bin-scala_2.12.tgz 2 Copy to clipboard 3 Error 4 Copied
2. 解压
将安装包拷贝至/usr/local/services/目录,重命名为flink-1.14.6.tgz后解压, 解压后进入Flink安装目录:
1 cd /usr/local/services/ 2 mv flink-1.14.6-bin-scala_2.12.tgz flink-1.14.6.tgz 3 tar -xzf flink-1.14.6.tgz 4 cd flink-1.14.6 5 Copy to clipboard 6 Error 7 Copied
3. 启动
1 ./bin/start-cluster.sh 2 Copy to clipboard 3 Error 4 Copied
4. 检查
http://localhost:8081/
Clickhouse 23.2.1 安装参考
1. 安装clickhouse
1 yum install -y yum-utils 2 rpm --import https://repo.yandex.ru/clickhouse/CLICKHOUSE-KEY.GPG 3 yum-config-manager --add-repo https://repo.yandex.ru/clickhouse/rpm/stable/x86_64 4 yum install clickhouse-server clickhouse-client 5 Copy to clipboard 6 Error 7 Copied
2. 修改用户验证信息
修改/etc/clickhouse-server/users.xml文件,在标签下设置用户验证信息。比如,我们设定一个用户名为default,密码为123456。
更多设置请参考ClickHouse官方文档。
3. 启动数据库
1 sudo systemctl enable clickhouse-server 2 sudo systemctl start clickhouse-server 3 sudo systemctl status clickhouse-server 4 Copy to clipboard 5 Error 6 Copied
4. 登录数据库
1 clickhouse-client -u default --password 123456 2 Copy to clipboard 3 Error 4 Copied