摘要: 8.3 HDFS-HA集群配置 8.3.1 环境准备 1. 修改IP 2. 修改主机名及主机名和IP地址的映射 3. 关闭防火墙 4. ssh免密登录 5. 安装JDK,配置环境变量等 8.3.2 规划集群 表3-1 hadoop102 hadoop103 hadoop104 NameNode Na 阅读全文
posted @ 2020-07-26 20:16 今天又瘦了嘛 阅读(143) 评论(0) 推荐(0) 编辑
摘要: Yarn资源调度器 Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操作系统平台,而MapReduce等运算程序则相当于运行于操作系统之上的应用程序。 Yarn基本架构 YARN主要由ResourceManager、NodeManager、ApplicationMas 阅读全文
posted @ 2020-07-26 20:15 今天又瘦了嘛 阅读(180) 评论(0) 推荐(0) 编辑
摘要: 1.1 MapReduce定义 1.2 MapReduce优缺点 1.2.1 优点 1.2.2 缺点 1.3 MapReduce核心思想 1)分布式的运算程序往往需要分成至少2个阶段。 2)第一个阶段的MapTask并发实例,完全并行运行,互不相干。 3)第二个阶段的ReduceTask并发实例互不 阅读全文
posted @ 2020-07-26 20:14 今天又瘦了嘛 阅读(179) 评论(0) 推荐(0) 编辑
摘要: 1.1.HDFS. 它是一个分布式文件管理系统,用来存储文件,通过目录树来定位文件;由多个服务器联合起来实现功能,集群中的服务器有各自的角色。 适用场景:适合一次写入,多次读出的场景,且不支持文件的修改。适合用来做数据的分析,并不适合用来做网盘应用。 1.1.1NameNode:就是master,它 阅读全文
posted @ 2020-07-26 20:13 今天又瘦了嘛 阅读(187) 评论(0) 推荐(0) 编辑
摘要: 大数据技术之Shell 第1章 Shell概述 (1)编译型语言: 程序在执行之前需要个专门的编译过程,把程序编译成为机器语言文件,运行时不需要重新翻译,直接使用编译的结果就行了。程序执行效率高,依养编译器,跨平台性差些。如C、C++、java (2)解释型语言: 程序不需要编译,程序在运行时由解释 阅读全文
posted @ 2020-07-02 21:03 今天又瘦了嘛 阅读(217) 评论(0) 推荐(0) 编辑
摘要: shell shell是一个命令行解释器,它接收应用程序/用户命令,然后调用操作系统内核。 shell还是一个功能强大的编程语言,易编写,易调试,灵活性强。 Shell解析器有: /bin/sh /bin/bash /bin/dash /bin/tcsh /bin/csh bash bash she 阅读全文
posted @ 2020-02-17 13:13 今天又瘦了嘛 阅读(323) 评论(0) 推荐(0) 编辑
摘要: Linux的发展史 1991 年 林纳斯(Linus) 就读于赫尔辛基大学期间,对 Unix 产生浓厚兴趣,尝试着在Minix 上做一些开发工作 因为 Minix 只是教学使用,因此功能并不强,林纳斯 经常要用他的终端 仿真器(Terminal Emulator) 去访问大学主机上的新闻组和邮件,为 阅读全文
posted @ 2020-02-17 12:19 今天又瘦了嘛 阅读(151) 评论(0) 推荐(0) 编辑
摘要: 1 Why? Maven是干什么用的?这是很多同学在学完这个课程后最大的问题。之所以会提出这个问题,是因为即使不使用Maven我们仍然可以进行B/S结构项目的开发。从表述层、业务逻辑层到持久化层再到数据库都有成熟的解决方案——不使用Maven我们一样可以开发项目啊?所以我们有必要通过企业开发中的实际 阅读全文
posted @ 2019-12-19 19:20 今天又瘦了嘛 阅读(1161) 评论(0) 推荐(0) 编辑
摘要: 1.基本内容 2.操作 2.1快速入门 3.概念 3.1IOC&DI 3.2applicationContext&BeanFactory 4.配置详解 4.1Bean 4.2Spring创建对象的三种方式 4.3 Bean元素进阶 4.3.1 scope属性 4.3.2生命周期属性(了解) 4.4分 阅读全文
posted @ 2019-12-19 19:19 今天又瘦了嘛 阅读(342) 评论(0) 推荐(0) 编辑
摘要: Spring简介: spring是一个框架,spring是2003兴起的一个轻量级开发框架,由Rod Johnson, 框架的优势:分层架构(MVC M:模型 v:视图 c:控制层) Spring优势:融合性强(spring相当于一个容器,一个大熔炉),IOC(控制反转,属性注入),Aop(面向切面 阅读全文
posted @ 2019-12-19 19:17 今天又瘦了嘛 阅读(240) 评论(0) 推荐(0) 编辑