摘要:
public class QuickwitSinkTask extends BkMetricSink<String, String> { private static final Logger log = LoggerFactory.getLogger(QuickwitSinkTask.class) 阅读全文
摘要:
# 查看进程状态 ps aux # 查看系统内核信息 uname -a # 查看系统版本信息 cat /etc/redhat-release # 查看系统登录记录 last # 执行历史命令 !history编码 # 返回上一次的目录 cd - # 查看文本内容时显示行号 cat -n xx # 查 阅读全文
摘要:
Messages Pulsar 中的基本单位 包含以下部分: Value:消息携带的数据 Key:消息 Key,可以用于主题合并(同个 Key 保留最新消息) Properties:用户自定义配置 Producer name:生产者名称,没有声明使用默认的 Topic name:消息将要发送到的 t 阅读全文
摘要:
文档地址:https://pulsar.apache.org/docs/getting-started-standalone 安装 Pulsar standalone 模式 系统要求 64位系统 JDK8以后版本 默认情况下,Pulsar分配 2G JVM 堆内存,可以通过对 conf/pulsar 阅读全文
摘要:
架构设计 主要由三部分组成: Broker集群:一个或多个Broker节点,负责接收生产者发送的消息,将消息转发给BookKeeper存储,以及将消息投递给消费者,完成负载均衡、Schema校验、Ledger自动更新、ACK管理等 BookKeeper集群:一个或多个Bookie节点组成,负责消息持 阅读全文
摘要:
基本概念 订阅组:类似于Kafka中的消费者组,不同订阅组之间消费消息互不干扰 主题:分为非分区主题和分区主题 非分区主题:一个主题和一个Broker绑定 分区主题:由一组非分区内部主题组成,每个内部主题绑定一个Broker(消息可以发送到多个Broker,避免受限于单节点性能) Broker:服务 阅读全文
摘要:
2.DataStream 2.1 主要组成 2.1.1 主要成员 DataStream代表一系列同类型数据的集合,可以通过转换操作生成新的DataStream DataStream用于表达业务转换逻辑,实际上并没有存储真实数据 主要包括两个成员: StreamExecutionEnvironment 阅读全文
摘要:
1.1 下载源码并编译 git clone https://github.com/apache/flink.git cd flink git checkout -b dev-1.14 remotes/origin/release-1.14 mvn clean install -DskipTests 阅读全文
摘要:
1.AQE(Adaptive Query Execution) 自适应查询执行 默认不开启,通过设置spark.sql.adaptive.enabled=true开启 主要包括三方面: Join策略调整:运行时动态的将原来的Shuffle Join调整为Broadcast Join,依赖Shuffl 阅读全文
摘要:
1.概述 优点:轻量、业务隔离、标准交付 chroot:改变某个进程的根目录,使得该程序不能访问目录之外的其他目录,和容器类似 Docker利用Namespace做主机名、网络、PID等资源的隔离,用Cgroups对进程或者进程组做资源(CPU、内存等)限制,联合文件系统用于镜像构建和容器运行环境 阅读全文