随笔分类 - Kafka
摘要:##1. 生产者 ###1. compression.type 生产者设置的消息压缩格式,可配置的值有none, gzip, lz4, snappy 通过该参数可以提高生产者吞吐量 ###2. batch.size 当要往同一个分区发送多条数据时,将多个消息打包在一起发送,减少请求交互 该参数要根据
阅读全文
摘要:1. 简介 kafka是一个多分区、多副本,并且基于zookeeper协调的分布式消息系统。目前定位为一个分布式流式处理平台,以高吞吐、可持久化、可水平扩展、支持流数据处理等多种特性而被广泛使用。主要功能有以下三个方面: 消息系统:作为一个消息系统,具有解耦、冗余存储、流量削峰、异步通信、扩展性、恢
阅读全文
摘要:【参考文章】:Kafka自带的性能测试脚本 1. 生产消息压测脚本 1.1 脚本及参数 bin/kafka-producer-perf-test.sh --topic kafka-test-0 --num-records 100--record-size 512 --throughput 100--
阅读全文
摘要:【转载】:server.properties 文件详解
阅读全文
摘要:1. 下载安装包 官网下载地址:http://kafka.apache.org/downloads 选择一个版本下载,然后解压安装包。 2. 基本使用 2.1 启动kafka bin/zookeeper-server-start.sh -daemon config/zookeeper.propert
阅读全文
摘要:1. 问题现象 启动 kafka 时报错:Failed to acquire lock on file .lock in /tmp/kafka-logs. A Kafka instance in another process or thread is using this directory. 2
阅读全文