2019年5月15日
摘要: 使用过java读取mysql大数据量的人应该都知道,如果查询时不开游标不设置一次性区大小的话,会一次性的把所有记录都拉取过来再进行后续操作,数据量一大就很容易出现OOM 如果用python去读取mysql也会遇到同样的问题 那么这么在python中来设置使用游标呢 也很简单 这里使用pymysql来 阅读全文
posted @ 2019-05-15 17:59 xibuhaohao 阅读(1069) 评论(0) 推荐(0) 编辑
摘要: 为了方便公司的数据分析平台的独立运行和数据挖掘的探索,今年上半年在公司搭建了支持数据平台和数据挖掘的数据仓库;现就数据仓库的创建工作总结如下,供大家参考: 首先介绍下数据仓库搭建的缘由: 公司创建两年,用户量不多,也有几十万吧,就我来的时候,公司功能性平台基本上都有,例如:用户管理平台、订单管理平台 阅读全文
posted @ 2019-05-15 17:16 xibuhaohao 阅读(331) 评论(0) 推荐(0) 编辑
摘要: 一.检查和安装与Perl相关的模块 PT工具是使用Perl语言编写和执行的,所以需要系统中有Perl环境。 依赖包检查命令为: rpm -qa perl-DBI perl-DBD-MySQL perl-Time-HiRes perl-IO-Socket-SSL 如果有依赖包确实,可以使用下面的命令安 阅读全文
posted @ 2019-05-15 16:50 xibuhaohao 阅读(913) 评论(0) 推荐(0) 编辑
摘要: 复制类 pt-heartbeat 监控mysql复制延迟 pt-slave-delay 设定从落后主的时间 pt-slave-find 查找和打印所有mysql复制层级关系 pt-slave-restart 监控salve错误,并尝试重启salve pt-table-checksum 校验主从复制一 阅读全文
posted @ 2019-05-15 16:33 xibuhaohao 阅读(390) 评论(0) 推荐(0) 编辑
摘要: 在MySQL中,可以使用批量密钥访问(BKA)连接算法,该算法使用对连接表的索引访问和连接缓冲区。 BKA算法支持:内连接,外连接和半连接操作,包括嵌套外连接。 BKA的优点:更加高效的表扫描提高了连接性能。 此外,先前仅用于内连接的块嵌套循环(BNL)连接算法现已扩展,可用于外连接和半连接操作,包 阅读全文
posted @ 2019-05-15 14:32 xibuhaohao 阅读(251) 评论(0) 推荐(0) 编辑