摘要: Grafana Loki查询加速:如何在不添加资源的前提下提升查询速度 来自Grafana Loki query acceleration: How we sped up queries without adding resources,介绍了Loki如何通过n-grams + 布隆过滤器来加速查询 阅读全文
posted @ 2024-07-16 09:18 charlieroro 阅读(137) 评论(0) 推荐(0) 编辑
摘要: 探究kubernetes 探针参数 periodSeconds和timeoutSeconds 问题起源 kubernetes probes的配置中有两个容易混淆的参数,periodSeconds和timeoutSeconds,其配置方式如下: apiVersion: v1 kind: Pod met 阅读全文
posted @ 2024-07-10 16:03 charlieroro 阅读(119) 评论(0) 推荐(0) 编辑
摘要: 最近搞了一个prometheus 指标终端展示工具,有兴趣的可以试试: 阅读全文
posted @ 2024-06-29 01:00 charlieroro 阅读(24) 评论(0) 推荐(0) 编辑
摘要: 一个无竞争的缓存 目录一个无竞争的缓存Cache定义数据节点的创建hashmaps3-FIFODqueuereadBufferswritebufferNode 过期策略可变过期策略Variable的初始化删除过期数据添加数据Cache的Set & GetSetGet事件和过期数据的处理事件处理清理过 阅读全文
posted @ 2024-04-28 17:07 charlieroro 阅读(291) 评论(0) 推荐(0) 编辑
摘要: S3-FIFO 本文作为下一篇缓存文章的预备知识。 背景 基于LRU和FIFO的驱逐 FIFO和LRU都是经典的缓存驱逐算法,在过去几十年中也出现了很多追求更高效率的驱逐算法,如ARC, 2Q, LIRS, TinyLFU。传统观点认为,基于LRU的缓冲未命中率要低于基于FIFO的算法,如CLOCK 阅读全文
posted @ 2024-04-25 14:20 charlieroro 阅读(130) 评论(0) 推荐(0) 编辑
摘要: RAG系列 本文介绍了RAG以及RAG pipeline的整个流程,包括请求转换、路由和请求构造、索引和检索、生成和评估等,其中引用了大量有价值的论文。 参考Advanced RAG Series: Generation and Evaluation中的5篇文章,并丰富了相关内容。 请求转换 请求转 阅读全文
posted @ 2024-04-01 09:29 charlieroro 阅读(1391) 评论(0) 推荐(1) 编辑
摘要: 向量数据库与LLM的集成:实践指南 本文将了解到什么是向量数据库,以及如何与LLMs进行集成。通过LLMs和向量数据库的结合,可以节省微调带来的开销和时间。 通常,LLM会在各种各样的数据上进行训练,这使它们具有广泛的理解能力,但可能会导致在特定的知识领域存在差距。有时,它们甚至可能产生与目标无关或 阅读全文
posted @ 2024-03-15 17:46 charlieroro 阅读(819) 评论(0) 推荐(1) 编辑
摘要: 2024年大语言模型的微调 在上一篇博客中了解了LLM的由来以及基本流程,其中会涉及到几个概念:Prompt Engineering、model、dataset、 vector-database、training、fine-tune、 library等。鉴于本人是小白,后面将引用几篇典型的文章来熟悉 阅读全文
posted @ 2024-03-07 10:57 charlieroro 阅读(1134) 评论(0) 推荐(2) 编辑
摘要: 理解LLMOps: Large Language Model Operations 对于像我一样的小白来说,本文是一篇非常不错的LLMs入门介绍文档。来自:Understanding LLMOps: Large Language Model Operations 本文首先解释了新术语"LLMOps" 阅读全文
posted @ 2024-03-05 17:51 charlieroro 阅读(618) 评论(0) 推荐(0) 编辑
摘要: Kubernetes 1.29版本中已经将nftables作为一个featureGates,本文简单整理了nftables的用法,便于后续理解kubernetes的nftables规则。文末给出了使用kubeadm部署启用nftables featureGates的配置文件。 如下内容来源nftab 阅读全文
posted @ 2024-01-30 09:38 charlieroro 阅读(1259) 评论(0) 推荐(1) 编辑