依赖:
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>2.1.1</version>
</dependency>
consumer.properties
bootstrap.servers=hadoop001:9092,hadoop002:9092,hadoop003:9092 key.deserializer=org.apache.kafka.common.serialization.StringDeserializer value.deserializer=org.apache.kafka.common.serialization.StringDeserializer group.id=com.sea enable.auto.commit=true auto.commit.interval.ms=1000
/** * 消费数据 */ public void consume() { try { // 创建配置对象 Properties prop = new Properties(); prop.load(Thread.currentThread().getContextClassLoader().getResourceAsStream("consumer.properties")); // 获取flume采集的数据 KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(prop); // 关注主题 consumer.subscribe(Arrays.asList(Names.TOPIC.getValue())); // Hbase数据访问对象 // HBaseDao dao = new HBaseDao(); // 初始化 // dao.init(); // 消费数据 while ( true ) { ConsumerRecords<String, String> consumerRecords = consumer.poll(100); for (ConsumerRecord<String, String> consumerRecord : consumerRecords) { System.out.println(consumerRecord.value()); System.err.println("#########################"); // 插入数据 // dao.insertData(consumerRecord.value()); //Calllog log = new Calllog(consumerRecord.value()); //dao.insertData(log); } } } catch ( Exception e ) { e.printStackTrace(); } }
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 三行代码完成国际化适配,妙~啊~
· .NET Core 中如何实现缓存的预热?
2018-12-25 elcipse 安装lombok插件解决 @Slf4j 等找不到log变量问题