随笔分类 -  elasticsearch

milvus 又一个开源的向量数据库
摘要:以前简单介绍过一个基于rust 的qdrant 向量数据库,milvus 也是一个类似的 milvus 一些特性 快速 支持非结构化数据 可靠 高可用&弹性 混合搜索 通用lambda 架构,支持批以及stream 处理 参考架构 说明 因为GPT的火爆,最近一些向量数据库比较火了(支持ai 的一些 阅读全文

posted @ 2023-05-09 08:28 荣锋亮 阅读(367) 评论(0) 推荐(0) 编辑

qdrant 向量数据库
摘要:qdrant 是向量数据库,官方的介绍是面向下一代的ai 应用的服务,实际上从实际使用特别像es(语义搜索),只是支持的特性更加强大 一些业务场景 语义搜索 相似,图片,语音,视频搜索 推荐系统 说明 qdrant 还支持ai 引擎的集成(比如chatgpt。。。。),对于希望快速体验的可以使用官方 阅读全文

posted @ 2023-05-07 22:53 荣锋亮 阅读(1249) 评论(0) 推荐(0) 编辑

graylog 索引模型
摘要:graylog 为了简化处理以及提供系统的性能以及灵活性,自己开发了特定的索引处理,原理上并不难,但是很值得学习 写处理 使用了别名,可以保证不影响业务使用,同时包含了定时任务进行索引的轮转以及创建新的索引 读处理 基于时间范围的索引查询,可以提示性能 说明 对于graylog 我们可以通过界面进行 阅读全文

posted @ 2022-10-01 22:45 荣锋亮 阅读(106) 评论(0) 推荐(0) 编辑

cube.js elasticsearch 官方sql 扩展使用
摘要:环境准备 es 环境 version: "3" services: es01: image: elasticsearch:7.3.2 container_name: es01 // 开启sql 以及认证 environment: - "http.host=0.0.0.0" - "transport. 阅读全文

posted @ 2021-07-27 22:29 荣锋亮 阅读(188) 评论(0) 推荐(0) 编辑

Data-Prepper opendistro 开源的基于es 的trace 分析工具
摘要:后边试用下,具体内容可以看以下链接,了解下Data-Prepper 提供的trace 分析方案,还是很不错的 参考资料 https://opendistro.github.io/for-elasticsearch/blog/releases/2020/12/announcing-trace-anal 阅读全文

posted @ 2021-01-05 23:27 荣锋亮 阅读(245) 评论(0) 推荐(0) 编辑

postgres elasticsearch fdw 学习
摘要:es 的fdw 是基于multicorn(python扩展)开发的,官方的multicorn 版本已经很老了,对于pg 的高版本是不支持的 但是已经有人提供了支持新版本的包了,还是很不错的,基于python 开发fdw 简单方便 multicorn 支持的版本 apt-get install pos 阅读全文

posted @ 2020-02-24 18:52 荣锋亮 阅读(1481) 评论(0) 推荐(0) 编辑

cube.js 集成opendistro elasticsearch bug 的原因说明
摘要:通过直接调用elasticsearch 的nodejs sdk 发现问题的原因是opendistro sql 扩展对于sql 的支持与elasticsearch 官方的有差异,主要是数据返回格式上,看看是否有兼容的方案 阅读全文

posted @ 2020-02-19 11:27 荣锋亮 阅读(316) 评论(0) 推荐(0) 编辑

cube.js opendistro elasticsearch 试用以及几个bug
摘要:前边有说明,cube.js 已经es 以下是通过opendistro的一个简单的试用(没跑通,后边有时间可以尝试下找下原因) opendistro 环境准备 docker-compose 文件 注意es 版本,目前cube.js 是7.6 的es npm 包,所以最好是兼容的,因为部分版本还是有兼容 阅读全文

posted @ 2020-02-19 10:46 荣锋亮 阅读(805) 评论(0) 推荐(0) 编辑

cube.js 支持 elasticsearch
摘要:cube.js 已经支持es 的分析了, 原理是基于sql,因为cube.js 的核心就是基于sql 的处理,所以只要是能基于sql 的处理,基本上基于cube.js 都是可以扩展的,大概看了下,官方是通过elasticsearch 的sql api 支持的,同时对于amazon 的opendist 阅读全文

posted @ 2020-02-18 22:38 荣锋亮 阅读(359) 评论(0) 推荐(0) 编辑

zombodb 关于索引的几个问题
摘要:es 数据丢失(误删) 现象 此情况下,通过zombodb dsl 方式查询会有异常,数据库sql 模式没问题(数据库数据在) 解决 需要重建索引,命令REINDEX index <indexname> es 故障(服务不可用) 现象 通过zombodb dsl 查询会有一样,同时数据的insert 阅读全文

posted @ 2020-02-13 18:33 荣锋亮 阅读(368) 评论(0) 推荐(0) 编辑

pgspider zombodb+opendistro 集成
摘要:zombodb 默认对于es的连接是没有密码的,很不安全,可选的方式,基于nginx+basci auth 使用es 的X-Pack,使用amazon的opendistro 也是一个很不错的方案,以下是一个简单测试,同时 会有关于使用basic auth 模式的连接配置 注意,测试使用的pg zom 阅读全文

posted @ 2020-02-13 13:59 荣锋亮 阅读(391) 评论(0) 推荐(0) 编辑

几个方便的基于es 的开源文档索引系统
摘要:Apache Tika 比较有名的内容提取工具 FsCrawler 使用java 开发,内部使用了Tika Ambar nodejs,python应用开发,轻量,支持基于docker 的快速部署,同时支持各种文档类型,ocr。。。。 参考资料 https://ambar.cloud/blog/201 阅读全文

posted @ 2019-04-30 16:45 荣锋亮 阅读(763) 评论(0) 推荐(0) 编辑

zeebe 集成elasticsearch exporter && 添加operate
摘要:zeebe 的operate是一个功能比较强大的管理工具,比simple-monitor 有好多方面上的改进 安全,支持用户账户的登陆 界面更友好,界面比较符合开团队工作流引擎的界面 系统监控更加强大,可以为我们提供比较全的系统指标 环境准备 还是老样子使用docker-compose 运行 doc 阅读全文

posted @ 2019-04-30 10:50 荣锋亮 阅读(1649) 评论(0) 推荐(0) 编辑

使用 opendistro for elasticsearch 做为graylog的后端存储
摘要:graylog 是一个很不错的日志分析、收集、报警平台,包好了丰富的插件,同时内部的架构设计很不错 input 组件很多,使用stream、pipeline可以方便的进行数据处理,可以同时3.0 对于sidcar 的支持更好了,内部强大的 dashboard 以及查询能力,可以方便的进行常见系统的性 阅读全文

posted @ 2019-04-25 19:20 荣锋亮 阅读(953) 评论(0) 推荐(0) 编辑

opendistro 试用
摘要:以前转载过一篇别人的关于opendistro的文章,还好使用docker-compose 运行,很方便,所以自己也跑下 环境准备 docker-compose 文件 version: '3' services: odfe-node1: image: amazon/opendistro-for-ela 阅读全文

posted @ 2019-04-24 22:39 荣锋亮 阅读(3018) 评论(0) 推荐(0) 编辑

Open Distro for Elasticsearch – How Different Is It?
摘要:转自:https://logz.io/blog/open-distro-for-elasticsearch Last month, AWS announced an initiative called Open Distro for Elasticsearch. Since then, there 阅读全文

posted @ 2019-04-24 21:13 荣锋亮 阅读(1222) 评论(0) 推荐(0) 编辑

zombodb 几点说明
摘要:内容来自官方文档,截取部分 默认es 索引的副本为0 这个参考可以通过修改索引,或者在创建的时候通过with 参数指定,或者通过pg 的配置文件中指定 索引更多的列以为这使用了更多的es 能力 索引的列越多,说明我们对于es 的使用更好,可以更好的使用es 的能力 zombodb 存储整个数据在es 阅读全文

posted @ 2019-04-03 10:33 荣锋亮 阅读(446) 评论(0) 推荐(0) 编辑

zombodb  query dsl
摘要:zombodb query dsl 是为了简化es 查询的处理,同时可以兼容基本上所有的es 操作 一个简单的查询,查询任何字段包含cats 以及dogs 的 SELECT * FROM table WHERE table ==> <cats and dogs query here> zombodb 阅读全文

posted @ 2019-04-03 09:59 荣锋亮 阅读(429) 评论(0) 推荐(0) 编辑

zombodb 数据类型映射
摘要:zombodb 与es 数据类型的映射处理 通用数据类型映射 Postgres 类型Elasticsearch JSON 映射定义 bytea {"type": "binary"} boolean {"type": "boolean"} smallint {"type": "short"} inte 阅读全文

posted @ 2019-04-03 09:39 荣锋亮 阅读(388) 评论(0) 推荐(0) 编辑

zombodb sql functions 说明
摘要:zombodb 提供了好多方便的sql 函数工具类以及帮助函数 查看zombodb 版本zdb.version() select * from zdb.version(); version 10-1.0.3 (1 row) es http 请求的 zdb.request 函数签名 FUNCTION 阅读全文

posted @ 2019-04-02 18:17 荣锋亮 阅读(196) 评论(0) 推荐(0) 编辑

导航