数据库监控指标

摘要: CPU使用率、内存使用率和存储用量SQL连接数,SQL语句执行的QPS和延迟导入数据的RPS qps 每秒处理的查询数tps 每秒处理的事务数。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。 阅读全文
posted @ 2023-03-21 16:00 一笑之奈何 阅读(246) 评论(0) 推荐(0) 编辑

Flink笔记

摘要: flink特性: # TableTable 可以是虚拟的(视图 VIEWS)也可以是常规的(表 TABLES)。 表TABLES描述的是外部数据,例如文件、数据库表或者消息队列。 临时表(Temporary Table)和永久表(Permanent Table) #表可以是临时的,并与单个 Flin 阅读全文
posted @ 2022-06-26 18:52 一笑之奈何 阅读(360) 评论(0) 推荐(0) 编辑

算法学习链接

摘要: 卷积神经网络 https://blog.csdn.net/bleakie/article/details/53171703 阅读全文
posted @ 2018-07-02 23:24 一笑之奈何 阅读(117) 评论(0) 推荐(0) 编辑

性能评估要素

摘要: PS:下面是性能测试的主要概念和计算公式,记录下: 一.系统吞度量要素: 一个系统的吞度量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。 单个reqeust 对CPU消耗越高,外部系统接口、IO影响速度越慢,系统吞吐能力越低,反之越高。 系统吞吐量几个重要参数:QPS(TP 阅读全文
posted @ 2017-09-21 00:23 一笑之奈何 阅读(632) 评论(0) 推荐(1) 编辑

Java性能分析方法

摘要: Java调优经验 http://www.rowkey.me/blog/2016/11/02/java-profile/ 阅读全文
posted @ 2017-09-21 00:18 一笑之奈何 阅读(237) 评论(0) 推荐(0) 编辑

JVM性能分析工具详解--MAT等

摘要: 获得堆转储文件 巧妇难为无米之炊,我们首先需要获得一个堆转储文件。为了方便,本文采用的是 Sun JDK 6。通常来说,只要你设置了如下所示的 JVM 参数: -XX:+HeapDumpOnOutOfMemoryError JVM 就会在发生内存泄露时抓拍下当时的内存状态,也就是我们想要的堆转储文件 阅读全文
posted @ 2017-09-20 23:03 一笑之奈何 阅读(1268) 评论(0) 推荐(0) 编辑

总结

摘要: 工具nexusjira jenkins mirror 统计和特征提取和建模关系分析 画像分析 轨迹分析时空关系计算数据挖掘算法数据可视化Echarts等(数据可视化案例palantir)预统计 其他意见:1.流程入职流程、新人培养计划培训工作计划 开发/代码规范版本维护/版本管理/发布管理## NE 阅读全文
posted @ 2017-06-16 11:10 一笑之奈何 阅读(182) 评论(0) 推荐(0) 编辑

h大数据

摘要: 安全认证 hw HBase安全认证(创建HBaseHolder时认证) String userPrincipal = FeatureContext.INSTANCE.getOrElse(Constants.SPARK.USER, "username");String userKeytabPath = 阅读全文
posted @ 2017-06-14 14:18 一笑之奈何 阅读(688) 评论(0) 推荐(0) 编辑

HBase存储方案设计

摘要: 需求描述 将数据记录持久化存储在HBase中,需要支持如下功能: 设计方案 按列存储 优点 缺点 列合并为JSON格式存储 优点 缺点 列合并为PB格式存储 优点 缺点 批量写入性能对比 单线程连续批量发送100万条过车记录(每条记录37个字段,每批10000条记录),三种方案完成数据采集总耗时对比 阅读全文
posted @ 2017-06-13 11:26 一笑之奈何 阅读(3826) 评论(1) 推荐(0) 编辑

HBase问题

摘要: 1.HBase Region问题 问题 现场反映数据查询错误,界面上显示有总数和分页,但查询的详细信息却为空。排查后总体表现如下: 1、 hbase界面的region存在黑洞。 2、 hbase region界面多出了很多奇怪的region,Startrow和endrow都不是正常数据可能产生的re 阅读全文
posted @ 2017-06-13 11:07 一笑之奈何 阅读(807) 评论(0) 推荐(0) 编辑