摘要:
1、自定义分区
2、排序
3、combiner 合并
4、数据压缩 阅读全文
摘要:
手写wordcount的程序
1、pom.xml
2、新建Mapper类
3、新建Reducer类
4、新建驱动类
5、IDEA的相关使用
案例分析
实现
FlowBean类
FlowCountMapper类
FlowCountReducer类
FlowCountDriver类
小文件优化 阅读全文
摘要:
1、HDFS下载文件原理
2、安全模式 safe mode
3、快照:是一种备份,默认:HDFS快照是关闭
4、回收站:默认HDFS的回收站禁用
5、配额:Quota
6、HDFS底层原理-RPC
7、HDFS底层原理-代理对象Proxy
8、RPC与Proxy程序示例 阅读全文
摘要:
1、hdfs的副本的配置
2、hadoop启动方式
3、大数据干什么的
4、hdfs-namenode工作机制
hadoop2.8.4
hadoopMapReduce
MapReduce的思想
对wordcount例子程序分析 阅读全文
摘要:
1、免密码登录的原理和配置
2、Hadoop安装—全分布模式 (重点)
3、slaves(和自己的从节点机器名字一致)
4、通过HDFS namenode 格式化
5、通过scp拷贝
6、HDFS-NameNode:名称节点
7、HDFS-DataNode:数据节点
8、上传文件
9、HDFS-SecondaryNameNode:第二名称节点
10、HDFS-Web Console
11、HDFS 普通操作命令–hdfs dfs(hadoop fs)
12、HDFS 管理员命令
13、IDEA Maven工程简介
14、文件夹的创建
15、HDFS权限问题
16、IDEA Maven工程实现HDFS的文件上传与下载
17、HDFS上传文件原理 阅读全文
摘要:
1、什么是大数据?
2、数据仓库和大数据
3、OLTP和OLAP
4、Google的基本思想:三篇论文重点
5、Hadoop的简介
6、HDFS的体系架构
7、MR编程模型
8、大数据典型应用场景
9、Hadoop的安装准备工作
10、Hadoop安装—本地安装
11、Hadoop安装—本地安装伪分布模式
12、免密码登录的原理和配置gen -t rsa
13、Hadoop安装—全分布模式 阅读全文
摘要:
1、Linux下命令行中的复制和粘贴
2、打开网卡
3、修改为静态IP
4、IP地址
5、网关
6、子网掩码
7、DNS服务器1、2
8、vi /etc/resolv.conf
9、重启网卡
10、 如何测试可以ping通
11、解压JDK命令
12、系统JDK环境变量的位置
13、写入
14、环境变量生效
15、检验JDK是否生效
16、解压Hadoop
17、解压Hadoop
18、创建日志logs和临时目录tmp
19、vi hadoop-env.sh
20、vi core-site.xml
21、vi hdfs-site.xml
22、修改主机名
23、检查主机名
24、格式化 hdfs
25、启动 hdfs
26、关闭 hdfs
27、查看进程
28、页面
29、临时关闭防火墙
30、永久禁用防火墙
31、查看防火墙状
32、SSH无密码登录
33、关闭selinux防火墙 阅读全文
摘要:
1、MySQL概要
2、MySQL安装
3、Navicat安装与操作MySQL
4、MySQL数据类型
5、MySQL外键、主键、唯一键
6、SQL语句–增删改查 阅读全文
摘要:
1、反射获取Class对象的三种方式
2、反射获得构造方法
3、反射获得成员变量
4、反射获得成员方法
5、泛型
6、泛型方法
7、泛型类
8、泛型擦除
9、类型通配符
10、反射与泛型 阅读全文
摘要:
1、ObjectInputStream
2、POI 实现对word、Excel等文件操作
3、多线程简介
4、线程的使用
5、线程的优先级
6、守护线程
7、窗口卖票小案例
8、线程的同步
9、线程的wait和notify
10、线程池概述
11、线程池使用 阅读全文
摘要:
1、异常概述
2、异常的分类
3、异常->方法抛出异常 throw 关键字
4、异常->异常的处理方式 try…catch…finally
5、自定义异常 阅读全文
摘要:
1、IO概述
2、输入输出流分类
3、File 类
4、FileInputStream–输入字节流
5、FileOutputStream–输出字节流
6、FileReader–输入字符流
7、FileWriter-输出字符流
8、BufferdReader
9、BufferedWriter
10、序列化与反序列化
11、ObjectOutputStream--序列化 阅读全文
摘要:
1、集合概念
2、集合和数组的区别
3、集合包含内容
4、集合框架->集合的继承关系图
5、List集合介绍
6、List集合->ArrayList
7、List集合->LinkedList
8、Set接口的介绍
9、Set集合->HashSet
10、Set集合->TreeSet
11、Map 集合
12、Map集合->HashMap
13、Map集合->HashTable
14、总结 阅读全文
摘要:
1、Java API概述
2、数值运算 Math类
3、字符串运算 String类
4、字符串运算-大写字母 小写字母 数字出现的次数
5、字符串运算-查找父字符串中某一个子字符串出现的次数
6、字符串运算-split方法
7、字符串运算-规则匹配
8、Date
9、Calendar
10、DateFormat–xxxx年xx月xx日
11、simpleDateFormat–DateFormat子类 阅读全文