摘要: 1.分布式文件系统理解 使用低配置电脑配置成集群,存储管理单台电脑不能处理的大型文件。 直观理解三个臭皮匠,顶个诸葛亮。 很多磁盘加一起就可以装超多电影。 类似于你出5毛,我出5毛,我们一起凑一块。 2.hdfs优缺点 优点: a.高容错性:数据自动保存多个副本;通过增加副本的形式,提高容错性。一个 阅读全文
posted @ 2020-04-03 15:55 _蒲公英_ 阅读(1159) 评论(0) 推荐(0) 编辑
摘要: 1.Centos 7 关闭防火墙:systemctl stop firewalld 打开防火墙:systemctl start firewalld 查看防火墙开启信息:systemctl status firewalld 关闭开机启动防火墙:systemctl disable ffirewalld 阅读全文
posted @ 2020-04-03 11:54 _蒲公英_ 阅读(674) 评论(0) 推荐(0) 编辑
摘要: 1.Hadoop的发展历史起源介绍 a.Hadoop最早起源于Nutch、Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询的功能,但随着抓取网页数量的增加,遇到了严重的可扩展的问题——如何解决数10亿网页的存储和索引问题。 b.2003、2004年谷歌发表的两篇论文为该问题 阅读全文
posted @ 2020-04-03 11:30 _蒲公英_ 阅读(447) 评论(0) 推荐(0) 编辑
摘要: 1.排查思路 大数据集群运行在linux系统上总会遇见各种各样的问题,我们要定位问题,基本上可以从这几个方面入手排查:cpu、内存、磁盘io、网络、GC等。 2.cpu 一些概念:多核,超线程,cpu频率(2.2GHZ) (节能模式,普通模式,超能模式:biso里设置,搭建集群要注意下这个参数尽量关 阅读全文
posted @ 2020-04-01 16:33 _蒲公英_ 阅读(628) 评论(0) 推荐(0) 编辑
摘要: 众所周知在默认参数情况下linux对高并发支持并不友好,主要受限于单进程最大打开文件数限制,内核tcp参数方面和io时间分配机制等,下面从几个方面来调整是linux系统能够支持高并发环境。 1.iptables相关 如非必要,关掉或卸载iptables防火墙,并阻止kernel加载iptables模 阅读全文
posted @ 2020-03-31 18:47 _蒲公英_ 阅读(6168) 评论(1) 推荐(0) 编辑
摘要: 1.性能问题理论综述 系统的性能是指操作系统完成任务的有效性、稳定性和响应速度 linux系统管理员可能会经常遇到系统不稳定、响应速度慢等问题,例如在linxu上搭建了一个web服务,经常会出现网页无法打开、打开速度慢等现象,而遇到这些问题,就会有人抱怨linux系统不好,其实这些都是表面现象。操作 阅读全文
posted @ 2020-03-31 17:22 _蒲公英_ 阅读(1585) 评论(0) 推荐(0) 编辑
摘要: 1.linux系统中一切皆文件 2.linux目录 /bin:二进制执行命令 /dev:设备的特殊文件 /etc:系统管理和配置文件(轻易不要改动) /etc/ec.d:启动的配置脚本 /home:用户主目录。ex:用户user的主目录就是/home/user /lib:标准程序设计库,又叫动态链接 阅读全文
posted @ 2020-03-31 11:51 _蒲公英_ 阅读(278) 评论(0) 推荐(0) 编辑
摘要: 简介 grep:适合单纯的查找或匹配文本 sed:适合编辑文本 awk:适合格式化文本,对文本进行复杂的格式化处理 1.grep grep -help 【options】 -c:只输出匹配行的计数 -i:不区分大小写 -h:查询多文件是不显示文件名 -l:查询多文件时只输出包含匹配字符的文件名 -m 阅读全文
posted @ 2020-03-30 18:39 _蒲公英_ 阅读(1456) 评论(0) 推荐(0) 编辑
摘要: 1.1什么是正则表达式 正则表达式是一种特殊的字符串模式,用于匹配一组字符串,就好比用模具做产品,正则就是这个模具,定义一种规则去匹配符合规则的字符 2.1元字符介绍 ^:会匹配长或者字符串的起始位置,有事还会匹配整个文档的其实位置 $:匹配行或字符串的结尾 \b:不会消耗任何字符只配匹一个位置,常 阅读全文
posted @ 2020-03-30 17:07 _蒲公英_ 阅读(310) 评论(0) 推荐(0) 编辑
摘要: 1.基础快捷键 ctrl+c:停止进程 ctrl+l:清屏 reset:彻底清屏 ctrl+q:退出 tab:补全名令,路径 上下键:查找执行过的命令 history:所有使用过的命令 2.文件命令 pwd:显示当前工作目录的绝对路径 ls,ll,ll -a 查看当前目录的文件与文件夹 ls横向 l 阅读全文
posted @ 2020-03-30 16:36 _蒲公英_ 阅读(253) 评论(0) 推荐(0) 编辑