上一页 1 ··· 16 17 18 19 20 21 22 23 24 ··· 31 下一页
摘要: Java处理JSON数据有三个比较流行的类库FastJSON、Gson和Jackson。本文将测试这三个类库在JSON序列化和反序列化的方面表现,主要测试JSON序列化和反序列化的速度。为了防止由于内存导致测试结果出现偏差,测试中对JVM内存配置-Xmx4g -Xms4g。 JSON序列化(Obje 阅读全文
posted @ 2018-03-12 20:40 大数据从业者FelixZh 阅读(13048) 评论(0) 推荐(1) 编辑
摘要: 根据Maneesh Varshney的漫画改编,以简洁易懂的漫画形式讲解HDFS存储机制与运行原理,非常适合Hadoop/HDFS初学者理解。 一、角色出演 如上图所示,HDFS存储相关角色与功能如下: Client:客户端,系统使用者,调用HDFS API操作文件;与NN交互获取文件元数据;与DN 阅读全文
posted @ 2018-03-08 18:09 大数据从业者FelixZh 阅读(1977) 评论(0) 推荐(0) 编辑
摘要: 关键字:hdfs fsck、block、locations 在HDFS中,提供了fsck命令,用于检查HDFS上文件和目录的健康状态、获取文件的block信息和位置信息等。 fsck命令必须由HDFS超级用户来执行,普通用户无权限。 下面介绍每一个选项的含义及用法。 查看文件中损坏的块(-list- 阅读全文
posted @ 2018-03-08 17:54 大数据从业者FelixZh 阅读(6825) 评论(0) 推荐(0) 编辑
摘要: http://lxw1234.com/archives/2016/04/630.htm 关键字:orc、index、hive Hive从0.11版本开始提供了ORC的文件格式,ORC文件不仅仅是一种列式文件存储格式,最重要的是有着很高的压缩比,并且对于MapReduce来说是可切分(Split)的。 阅读全文
posted @ 2018-03-08 17:07 大数据从业者FelixZh 阅读(2554) 评论(0) 推荐(0) 编辑
摘要: InfluxDB基本概念 1、数据格式 在 InfluxDB 中,我们可以粗略的将要存入的一条数据看作一个虚拟的 key 和其对应的 value(field value)。格式如下: 1 cpu_usage,host=server01,region=us-west value=0.64 143405 阅读全文
posted @ 2018-03-07 13:00 大数据从业者FelixZh 阅读(3474) 评论(0) 推荐(0) 编辑
摘要: InfluxDB介绍 官网:https://www.influxdata.com/ 文档:https://docs.influxdata.com/influxdb/v1.2/introduction/ InfluxDB 是用Go语言编写的一个开源分布式时序、事件和指标数据库,无需外部依赖。 主要特色 阅读全文
posted @ 2018-03-07 12:59 大数据从业者FelixZh 阅读(806) 评论(0) 推荐(0) 编辑
摘要: https://www.jianshu.com/p/73eec030db86 项目中用到storm+kafka+zookeeper,在实际应用中zk和kafka常出问题,这里记录下在使用zk过程中的问题。 注:zk版本是3.4.8,kafka是0.8.2.0。zk、storm和kafka都是运行在同 阅读全文
posted @ 2018-02-24 12:59 大数据从业者FelixZh 阅读(1475) 评论(0) 推荐(0) 编辑
摘要: 前言 ZooKeeper是雅虎的。用Ant进行软件构建。 千里之行,始于足下。想看源码的第一步,是下载源码并导入某个IDE工具。 Ant http://ant.apache.org/ Windows: 下载Ant,解压到硬盘,比如C:\Work\apache-ant-1.9.7,在环境变量中增加AN 阅读全文
posted @ 2018-02-24 11:02 大数据从业者FelixZh 阅读(652) 评论(0) 推荐(0) 编辑
摘要: ZooKeeper Observers Observers: Scaling ZooKeeper Without Hurting Write Performance How to use Observers Example use cases Observers: Scaling ZooKeeper 阅读全文
posted @ 2018-02-23 17:51 大数据从业者FelixZh 阅读(873) 评论(0) 推荐(0) 编辑
摘要: 有用过Zookeeper的都知道zoo.cfg配置文件中有dataDir配置项用于存储数据,不过可能有些人不太清楚这个目录具体存储的是那些数据,默认情况下这个目录是用于存储Log(事务日志)与Snapshot(快照)数据,但是Zookeeper还提供了一个用于Log存储目录的配置项dataLogDi 阅读全文
posted @ 2018-02-23 16:56 大数据从业者FelixZh 阅读(6319) 评论(0) 推荐(0) 编辑
摘要: Deployment System Requirements Supported Platforms Required Software Clustered (Multi-Server) Setup Single Server and Developer Setup Administration D 阅读全文
posted @ 2018-02-23 14:38 大数据从业者FelixZh 阅读(567) 评论(0) 推荐(0) 编辑
摘要: 现在网上关于ZooKeeper的文章很多,有介绍Leader选举算法的,有介绍ZooKeeper Server内部原理的,还有介绍ZooKeeper Client的。本文不打算再写类似的内容,而专注与解答读者对ZooKeeper的相关疑问。 ZOOKEEPER在客户端究竟做了什么事情 使用过ZooK 阅读全文
posted @ 2018-02-23 14:09 大数据从业者FelixZh 阅读(1174) 评论(0) 推荐(0) 编辑
摘要: 本文以ZooKeeper3.4.3版本的官方指南为基础:http://zookeeper.apache.org/doc/r3.4.3/zookeeperAdmin.html,补充一些作者运维实践中的要点,围绕ZK的部署和运维两个方面讲一些管理员需要知道的东西。本文并非一个ZK搭建的快速入门,关于这方 阅读全文
posted @ 2018-02-23 14:03 大数据从业者FelixZh 阅读(2022) 评论(0) 推荐(0) 编辑
摘要: Zookeeper的大部分操作都是通过选举产生的。比如,标记一个写是否成功是要在超过一半节点发送写请求成功时才认为有效。同样,Zookeeper选择领导者节点也是在超过一半节点同意时才有效。最后,Zookeeper是否正常是要根据是否超过一半的节点正常才算正常。这是基于CAP的一致性原理。zooke 阅读全文
posted @ 2018-02-23 10:41 大数据从业者FelixZh 阅读(2916) 评论(0) 推荐(0) 编辑
摘要: Short Description: The article talks about the basic health checks to be performed when working on issues related to slow zookeeper performance Short 阅读全文
posted @ 2018-02-22 15:54 大数据从业者FelixZh 阅读(700) 评论(0) 推荐(0) 编辑
摘要: 简单的 http 性能测试工具 wrk.git 一个简单的 http benchmark 工具, 能做很多基本的 http 性能测试. wrk 的一个很好的特性就是能用很少的线程压出很大的并发量. 原因是它使用了一些操作系统特定的高性能 io 机制, 比如 select, epoll, kqueue 阅读全文
posted @ 2018-02-01 19:27 大数据从业者FelixZh 阅读(14667) 评论(0) 推荐(0) 编辑
摘要: Nginx除了以前常用的HTTP负载均衡外,Nginx增加基于TCP协议实现的负载均衡方法。 HTTP负载均衡,也就是我们通常所有“七层负载均衡”,工作在第七层“应用层”。而TCP负载均衡,就是我们通常所说的“四层负载均衡”,工作在“网络层”和“传输层”。例如,LVS(Linux Virtual S 阅读全文
posted @ 2018-01-29 14:31 大数据从业者FelixZh 阅读(23122) 评论(0) 推荐(1) 编辑
摘要: Nginx 在1.9.0版本发布以前如果要想做到基于TCP的代理及负载均衡需要通过打名为 nginx_tcp_proxy_module 的第三方patch来实现,该模块的代码托管在github上网址:https://github.com/yaoweibin/nginx_tcp_proxy_modul 阅读全文
posted @ 2018-01-29 14:15 大数据从业者FelixZh 阅读(1266) 评论(0) 推荐(0) 编辑
摘要: nginx tcp代理功能由nginx_tcp_proxy_module模块提供,同时监测后端主机状态。该模块包括的模块有: ngx_tcp_module, ngx_tcp_core_module, ngx_tcp_upstream_module, ngx_tcp_proxy_module, ngx 阅读全文
posted @ 2018-01-29 09:54 大数据从业者FelixZh 阅读(673) 评论(0) 推荐(0) 编辑
摘要: 对于TCP长连接保活是十分必要的,原因如下: 1、系统多在OA网和外网间有防火墙隔离,很多防火墙对一段时间内没有报文活动的socket会自动关闭。 2、对于非正常断开的连接系统并不能侦测到,比如防火墙关闭端口、网线被拔掉、电脑突然奔掉、未关闭应用程序直接关机(服务端无法释放资源)。 (调用close 阅读全文
posted @ 2018-01-26 19:07 大数据从业者FelixZh 阅读(1969) 评论(0) 推荐(0) 编辑
摘要: fluent-logger-java is a Java library, to record events via Fluentd, from Java application. https://github.com/fluent/fluent-logger-java 使用该sdk过程发现,tcp 阅读全文
posted @ 2018-01-26 18:28 大数据从业者FelixZh 阅读(8177) 评论(0) 推荐(0) 编辑
摘要: http://blog.csdn.net/Ctrl_qun/article/details/52518479 一、TCP数据报结构以及三次握手 TCP(Transmission Control Protocol,传输控制协议)是一种面向连接的、可靠的、基于字节流的通信协议,数据在传输前要建立连接,传 阅读全文
posted @ 2018-01-26 13:26 大数据从业者FelixZh 阅读(43189) 评论(3) 推荐(6) 编辑
摘要: http://blog.csdn.net/imilli/article/details/50620104 TCP头部: 其中 ACK SYN 序号 这三个部分在以下会用到,它们的介绍也在下面。 暂时需要的信息有: ACK : TCP协议规定,只有ACK=1时有效,也规定连接建立后所有发送的报文的AC 阅读全文
posted @ 2018-01-25 15:49 大数据从业者FelixZh 阅读(1995) 评论(0) 推荐(0) 编辑
摘要: http://blog.csdn.net/shootyou/article/details/6622226 昨天解决了一个HttpClient调用错误导致的服务器异常,具体过程如下: http://blog.csdn.net/shootyou/article/details/6615051 里头的分 阅读全文
posted @ 2018-01-25 15:13 大数据从业者FelixZh 阅读(1614) 评论(0) 推荐(0) 编辑
摘要: http://blog.sina.com.cn/s/blog_e59371cc0102ux5w.html 最近工作中遇到一个问题,想把它记录下来,场景是这样的: 从上图可以看出,用户通过Client访问的是LVS的VIP, VIP后端挂载的RealServer是Nginx服务器。 Client可以是 阅读全文
posted @ 2018-01-25 15:08 大数据从业者FelixZh 阅读(6779) 评论(0) 推荐(2) 编辑
摘要: http://blog.csdn.net/wangjun5159/article/details/51510594 思考问题的顺序 学技术时,总是会问什么?这里也不例外,https为什么会存在,它有什么优点,又有什么缺点?为什么网站有的用http,有的用https?如果不能很好的回答,就往下看吧。 阅读全文
posted @ 2018-01-19 14:17 大数据从业者FelixZh 阅读(3144) 评论(0) 推荐(1) 编辑
摘要: 1. /usr/local/nginx/sbin/nginx -V 查看nginx版本与编译安装了哪些模块nginx version: nginx/1.10.3built by gcc 4.4.7 20120313 (Red Hat 4.4.7-18) (GCC)built with OpenSSL 阅读全文
posted @ 2018-01-19 13:43 大数据从业者FelixZh 阅读(1263) 评论(0) 推荐(0) 编辑
摘要: [root@aa~]# This is ApacheBench, Version 2.3 <$Revision: 655654 $> Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/ Licensed t 阅读全文
posted @ 2018-01-16 11:01 大数据从业者FelixZh 阅读(10598) 评论(0) 推荐(1) 编辑
摘要: 引言: 互联网服务压测是非常重要的评价方法,ab,webbench,jmeter等都是业界流行的测试工具,ab和webbench作为shell模式下轻量级的测试工具,jmeter则作为有GUI界面的更高级测试工具,各有特点,ab比webbench功能更多一些,所以这里选择ab和jmeter来做一个对 阅读全文
posted @ 2018-01-16 11:00 大数据从业者FelixZh 阅读(2688) 评论(0) 推荐(1) 编辑
摘要: 一、回到上次操作的目录# cd -进入上次访问目录二、历史命令搜索操作快捷键:[Ctrl + r], [Ctrl + p], [Ctrl + n]在终端中按捉 [Ctrl] 键的同时 [r] 键,出现提示:(reverse-i-search), 此时你尝试一下输入你以前输入过的命令,当你每输入一个字 阅读全文
posted @ 2018-01-12 11:34 大数据从业者FelixZh 阅读(12192) 评论(0) 推荐(1) 编辑
上一页 1 ··· 16 17 18 19 20 21 22 23 24 ··· 31 下一页