NET中解决KafKa多线程发送多主题的问题
一般在KafKa消费程序中消费可以设置多个主题,那在同一程序中需要向KafKa发送不同主题的消息,如异常需要发到异常主题,正常的发送到正常的主题,这时候就需要实例化多个主题,然后逐个发送。
在NET中用RdKafka组件来做消息处理,在Nuget中引用。
在程序中初始化Producer,并创建多个Topic
private string comtopic = "topic1"; private string errtopic = "topic2"; private string kfkip = "192.168.80.32:9092"; Topic topic = null; Topic errTopic = null; public ExcuteFlow() { try { Producer producer = new Producer(kfkip); topic = producer.Topic(comtopic); errTopic = producer.Topic(errtopic); } catch (RdKafkaException ex) { LogHelper.Error("KafKa初始化KafKa异常 ", ex); } catch (Exception ex) { LogHelper.Error("KafKa初始化异常", ex); } }
在程序中发送其中一个主题:
try { if (topic != null) { byte[] datas = Encoding.UTF8.GetBytes(JsonHelper.ToJson(flowCommond)); Task<DeliveryReport> deliveryReport = topic.Produce(datas); var unused = deliveryReport.ContinueWith(task => { LogHelper.Info("内容:{flowCommond.ID} 发送到分区:{task.Result.Partition}, Offset 为: {task.Result.Offset}"); }); } else { throw new Exception("发送消息到KafKa topic 为空"); } } catch (RdKafkaException ex) { LogHelper.Error("发送消息到KafKa KafKa异常", ex); } catch (Exception ex) { LogHelper.Error("发送消息到KafKa异常", ex); }
flowCommond为要发送的对象内容,格式化为Json字符串再发送。
另一个主题一样处理。
这里实现一个线程里面发送多个主题,那下面实现多个线程中如何发送多个主题。
多线程中如果每个线程都new Producer(kfkip) 一次,那KafKa的连接很快会被占满。
那这里就用单例模式来解决这个问题,每次要用到Producer时检查一下是否已经存在Producer实例,若存在则直接用不用再生成。
/// <summary> /// 单例模式的实现 /// </summary> public class SingleProduct : Producer { // 定义一个静态变量来保存类的实例 private static SingleProduct uniqueInstance; // 定义一个标识确保线程同步 private static readonly object locker = new object(); // 定义私有构造函数,使外界不能创建该类实例 private SingleProduct(string brokerList) : base(brokerList) { } /// <summary> /// 定义公有方法提供一个全局访问点,同时你也可以定义公有属性来提供全局访问点 /// </summary> /// <returns></returns> public static SingleProduct GetInstance() { // 当第一个线程运行到这里时,此时会对locker对象 "加锁", // 当第二个线程运行该方法时,首先检测到locker对象为"加锁"状态,该线程就会挂起等待第一个线程解锁 // lock语句运行完之后(即线程运行完之后)会对该对象"解锁" if (uniqueInstance == null) { lock (locker) { // 如果类的实例不存在则创建,否则直接返回 if (uniqueInstance == null) { string kfkip = System.Configuration.ConfigurationManager.AppSettings["KfkIP"]; try { uniqueInstance = new SingleProduct(kfkip); LogHelper.Error("单例模式 实例化 SingleProduct"); } catch (RdKafkaException ex) { LogHelper.Error("单例模式 KafKa初始化KafKa异常 ", ex); } catch (Exception ex) { LogHelper.Error("单例模式 KafKa初始化异常", ex); } } } } return uniqueInstance; } }
然后在初始化的代码中替换Producer producer = new Producer(kfkip);为 Producer producer = SingleProduct.GetInstance();
OK!以上就完成了多线程多主题的消息发送。
作者:欢醉
公众号【一个码农的日常】 技术群:319931204 1号群: 437802986 2号群: 340250479
出处:http://zhangs1986.cnblogs.com/
码云:https://gitee.com/huanzui
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
公众号【一个码农的日常】 技术群:319931204 1号群: 437802986 2号群: 340250479
出处:http://zhangs1986.cnblogs.com/
码云:https://gitee.com/huanzui
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?