摘要:
在入正题之前我们再回顾下它的架构图: 本文章主要分析AMP各索引的作用,与及结合1.7环境上已接入的服务数据对比后,对索引中的主要字段进行解析。文章分为四个小章节。 1、索引类型 apm索引分为四种类型: 系统指标索引(System status metrics),索引名称格式:apm-versio 阅读全文
摘要:
Aspose简介 Aspose.Total是Aspose公司旗下全套文件格式处理解决方案,提供最完整、最高效的文档处理解决方案集,无需任何其他软件安装和依赖。主要提供.net、java、C++d三个开发语言的工具包,通过它,可以对办公文档格式的转换和文档内容的在线编辑,如:Word, Excel, 阅读全文
摘要:
背景 一切皆有因果,所有事情,都有事件驱动。本方案的日志级别切换是由这样的背景下产生的: 单个生产环境上,有几百近千个微服务 日志级别切换不重启服务,要求即时生效果 由业务开发人员去修改代码或增加相关依赖配置等涉及面广,推动进度慢 后期动态实时过滤垃圾日志,减少io和磁盘空间成本 logback简介 阅读全文
摘要:
kafka-connect-hive是基于kafka-connect平台实现的hive数据读取和写入插件,主要由source、sink两部分组成,source部分完成hive表数据的读取任务,kafka-connect将这些数据写入到其他数据存储层中,比如hive到ES数据的流入。sink部分完成向 阅读全文
摘要:
问题 连接 MySQL8 报错: 2059 - authentication plugin 'caching_sha2_password' cannot be loaded... 解决 修改身份认证插件:mysql_native_password mysql> ALTER USER 'root'@' 阅读全文
摘要:
zookeeper单个path下存储的数据有默认大小限制。默认是1M。如果将大小超过1M的数据存储,将报异常,存储失败。 解决办法: 1、在zkServer.sh中加入:-Djute.maxbuffer=1000240000 2、zkCli.sh中加入:-Djute.maxbuffer=100024 阅读全文
摘要:
流水查询需求 需求第一期: 基于TB级的在线数据,支持缴费帐单明细在线查询。大家都知道,像银行帐单流水一样,查几年的流水是常有的事。 支持的维度查询:帐期、欠费状态、日期范围、费用科目类型、房屋分类、房屋所属项目、关联合同信息、统计列 什么是实时数据 实时可以分为:实时采集、实时计算、高性能,底延时 阅读全文
摘要:
基于上一篇《微服务海量日志监控平台》介绍的平台架构,继续架构的优化和能功的扩展,实现服务治理能力。 问题现状态 日志监控平台为我们带来了很多排查解决线上问题的便利。但是从某种程度上讲,只为我们提供了线索,最终的排查和解决还是需要人工去执行参与,所以从运维角度上说,并没有帮助解决问题。由于采集覆盖面和 阅读全文
摘要:
升级目的:为上层开发,提供统一元数据服务并能通过hive操作kudu表,kylin可以通过hive对在kudu中的数据做分析 面临问题:hive4.0之前hive没有KuduStorageHandler机制,需要hive和kudu整合功能而升级,但是github上官方开源的代码看该模块代码没完成。所 阅读全文
摘要:
前言 闲暇之时,羚羊给大家分享一下羚羊在Centos7 下安装Cloudera Manager 6.3.0和cloudera cdh 6.3.2的过程和安装过程中遇到的坑。至于为什么要选择CDH,Cloudera Manager和cdh是什么,之间又是什么关系,在这里羚羊就不做介绍了。 为什么选择C 阅读全文
摘要:
先通过命令查看节点的shard分配整体情况 curl -X GET "ip:9200/_cat/allocation?v" 说明:有16个索引未分片 2、查看未分片的索引 curl -XGET ip:9200/_cat/shards?h=index,shard,prirep,state,unassi 阅读全文