摘要: (1)ec2自建的mongo,把mongostat数据实时输出到cloudwatch,并且做成条形图,方便查看。 首先在装有mongo的ec2机器上安装awslogs,参考,然后根据提示设置采集相关配置。 然后把mongostat数据传到cloudwatch,类似于: mongostat --hos 阅读全文
posted @ 2021-01-05 22:14 5sdba 阅读(96) 评论(0) 推荐(0) 编辑
摘要: (1)统计gitlab每个开发一年内每个月提交代码数据: -- commit 次数统计排名 select author_id,b.email,b.name,count(1) as sum_cnt , sum(case when to_char(a.created_at,'yyyy-mm')='202 阅读全文
posted @ 2020-12-29 22:43 5sdba 阅读(179) 评论(0) 推荐(0) 编辑
摘要: 笔记:之前登录master节点看pg_log目录下的文件,后面每次这样看感觉挺不方便的,查了一下文档 select ma.logtime at time zone 'CST' as logtime,ma.loguser,ma.logpid,ma.loghost,ma.logstate,ma.logm 阅读全文
posted @ 2020-12-13 12:32 5sdba 阅读(1146) 评论(0) 推荐(0) 编辑
摘要: 原始mongod.log格式: 2020-11-26T21:33:45.896+0800 I NETWORK [listener] connection accepted from 10.10.6.192:52138 #1663452 (121 connections now open) 2020- 阅读全文
posted @ 2020-12-06 18:00 5sdba 阅读(419) 评论(0) 推荐(0) 编辑
摘要: (1)统计redis连接信息 echo 'client list' | /apps/svr/redis/bin/redis-cli -h 127.0.0.1 -p 6379 |awk '{print $1}' | awk -F '[=,:]' '{print $2}' | sort -n | uni 阅读全文
posted @ 2020-12-06 17:59 5sdba 阅读(870) 评论(0) 推荐(0) 编辑
摘要: 定义一个变量,要求输入一个值比如001,sql查询比如 where userid=001 的数据 输入2个值,比如001,002 sql查询 where userid in(001,002) 的数据 metabase上想实现这个效果,请教了一下大佬,学到了新写法。 select * from acc 阅读全文
posted @ 2020-12-06 17:58 5sdba 阅读(177) 评论(0) 推荐(0) 编辑
摘要: 1 -- 上周注册了100人,上周以前注册(200人), 2 -- 本周登录了50人(上周注册的100人里面有50人本周登录), 3 -- 本周登录了20人(上周之前注册注册的200人里面有80人在上周登录过并且本周登录了20人) 4 -- 新用户留存率 50/100 5 -- 老用户留存率 20/ 阅读全文
posted @ 2020-12-06 17:58 5sdba 阅读(423) 评论(0) 推荐(0) 编辑
摘要: 匹配nginx日志里面的ipv4地址: select regexp_extract(http_x_forwarded_for,'\d+\.\d+\.\d+\.\d+') as s_ip 然后分组求和,利用图表渲染工具就可以出一个好看的图了 阅读全文
posted @ 2020-11-16 20:44 5sdba 阅读(121) 评论(0) 推荐(0) 编辑
摘要: 一个字段是varchar类型,里面存的都是日期值,没有不符合日期的格式的数据,但是直接把字段varchar-->timestamp就会报错,以前mysql里面如果数据都是正常的,可以直接转,应该是mysql帮做了内部转换。 现在的步骤为: (1)先加一个临时列,类型为需要的类型timestamp,然 阅读全文
posted @ 2020-11-14 11:56 5sdba 阅读(776) 评论(0) 推荐(0) 编辑
摘要: 一些etl工具从mongo同步到pg库里面的数据,多数能处理这种异构的索引,我自己找了一种不那么复杂的方法: (1)写一个js,在mongo导出源库所有索引信息: 1 root@ip-10-10-30-211:~# cat mongo_idx.js 2 var collectionList = db 阅读全文
posted @ 2020-08-12 20:44 5sdba 阅读(162) 评论(0) 推荐(0) 编辑