摘要:元素名 属性 解释 默认值 server port 指定一个端口,这个端口负责监听关闭tomcat 的请求注意:禁用关闭命令端口在tomcat以windows服务或linux等系统的jsvc方式启动时可以生效在标准shell脚本启动的方式下不会生效,这将阻止shutdown和catalina脚本停止
阅读全文
摘要:curl(CommandLine Uniform Resource Locator),即在命令行中利用URL进行数据或者文件传输。 常用参数 -w选项支持的变量:https://www.cnblogs.com/zh-dream/p/16534740.html -A/--user-agent <str
阅读全文
摘要:什么是网络性能评估 网络新能评估是指检测网络带宽的使用率,最大化利用网络带宽,由于网络设计不合理、网络安全存在漏洞,会导致网络利用率低。iperf正是发现这种问题的网络测试工具。 iperf简介 iperf是一款基于TCP/IP和UDP/IP的网络性能测试工具。可以用来测量网络带宽和网络质量,提供网
阅读全文
摘要:tcpdump 一款可以根据使用者定义的规则对网络上的数据包进行截获的包分析工具。 使用场景 网络应用程序崩溃时,需要确认应用程序收发的数据包格式和内容是否符合设计规范; 网络应用程序响应慢,需要确认是否存在网络传输问题或者程序对于输入数据处理慢; 用户无法使用网络应用程序时,需要判断是否存在网络连
阅读全文
摘要:安装git 使用yum方式 $ sudo yum install git -y 源码方式安装 源码包获取地址 https://github.com/git/git/releases 安装依赖 $ sudo yum install gcc gcc-c++ curl-devel expat-devel
阅读全文
摘要:版本控制的概念 版本控制是一种记录一个或若干文件内容变化,以便将来查阅特定版本修订情况的系统 本地版本控制系统和集中化的版本控制系统 本地版本控制系统是在本地磁盘上保存补丁集(文件修改前后的变化),通过应用所有的补丁,可以重新计算出各个版本的文件内容。 集中化的版本控制系统 (Centralized
阅读全文
摘要:Hadoop集群经常需要添加节点或者从集群中移出故障节点。 委任新datanode 向集群添加datanode,需要通过hdfs的hdfs-site.xml的配置参数dfs.hosts来实现,然后启动datanode进程。 将源集群的配置文件拷贝至新节点待用。 在配置文件路径/opt/module/
阅读全文
摘要:core-site.xml 重要参数 hadoop.tmp.dir=/tmp/hadoop-${user.name} Hadoop的临时目录,其它目录会基于此路径。本地目录。 只可以设置一个值;建议设置到一个足够空间的地方,而不是默认的/tmp下 服务端参数,修改需重启 hadoop.securit
阅读全文
摘要:HDFS启动过程 整个启动过程分为两个部分: 1、namenode启动 (1)第一次启动namenode格式化后,创建fsimage和edits(在namenode所在结点的hadooop/data目录下)文件。如果不是第一次启动,直接加载编辑日志和镜像文件到内存。 (2)客户端对元数据进行增删改的
阅读全文
摘要:HDFS的高可用性 联邦hdfs 由于namenode在内存中维护系统中的文件和数据块的映射信息,所以对于一个海量文件的集群来说,内存将成为系统横向扩展瓶颈。Hadoop在2.x的版本引入了联邦HDFS(HDFS Federation),通过在集群中添加namenode实现。 Federation的
阅读全文
摘要:HDFS的高可用性 联邦hdfs 由于namenode在内存中维护系统中的文件和数据块的映射信息,所以对于一个海量文件的集群来说,内存将成为系统横向扩展瓶颈。Hadoop在2.x的版本引入了联邦HDFS(HDFS Federation),通过在集群中添加namenode实现。 Federation的
阅读全文
摘要:安装ansible # yum install -y epel-release # yum install -y ansible # vim /etc/ansible/hosts [zk] zk0[1:3]# ansible zk -m copy -a 'src=/etc/hosts dest=/e
阅读全文
摘要:向后兼容(Backward compatibility),又称向下兼容(DownwardCompatible)是一个以部件标准为基础的性能要求,是它最新的标准规范。向后兼容的组件既要符合其所属分类的性能要求,同时也要符合低于其分类的所有性能要求。比如USB2.0规范是可以向后兼容版本更低的USB 1
阅读全文
摘要:CAP原理中的三个要素 一致性(Consistency) 可用性(Availability) 分区容忍性(Partition tolerance) CAP理论的描述 CAP原理指的是,这三个要素最多只能同时实现两点,不可能三者兼顾。因此在进行分布式架构设计时,必须做出取舍。 对于分布式数据系统,分区
阅读全文
摘要:使用#或%替换shell中的变量 定义变量: pth=/abc/aab/abcabc/abcd/cb.txt 变量替换(支持通配符但不支持正则表达式): ${var#pattern}:删除变量var中左边第一个能匹配到pattern左边的字符 # echo ${pth#*bc} /aab/abcab
阅读全文