摘要: 1、自定义分区 2、排序 3、combiner 合并 4、数据压缩 阅读全文
posted @ 2019-02-19 21:23 hsiehchou 阅读(171) 评论(0) 推荐(0) 编辑
摘要: 手写wordcount的程序 1、pom.xml 2、新建Mapper类 3、新建Reducer类 4、新建驱动类 5、IDEA的相关使用 案例分析 实现 FlowBean类 FlowCountMapper类 FlowCountReducer类 FlowCountDriver类 小文件优化 阅读全文
posted @ 2019-02-19 21:23 hsiehchou 阅读(128) 评论(0) 推荐(0) 编辑
摘要: 1、HDFS下载文件原理 2、安全模式 safe mode 3、快照:是一种备份,默认:HDFS快照是关闭 4、回收站:默认HDFS的回收站禁用 5、配额:Quota 6、HDFS底层原理-RPC 7、HDFS底层原理-代理对象Proxy 8、RPC与Proxy程序示例 阅读全文
posted @ 2019-02-19 21:21 hsiehchou 阅读(135) 评论(0) 推荐(0) 编辑
摘要: 1、hdfs的副本的配置 2、hadoop启动方式 3、大数据干什么的 4、hdfs-namenode工作机制 hadoop2.8.4 hadoopMapReduce MapReduce的思想 对wordcount例子程序分析 阅读全文
posted @ 2019-02-19 21:21 hsiehchou 阅读(170) 评论(0) 推荐(0) 编辑
摘要: 1、免密码登录的原理和配置 2、Hadoop安装—全分布模式 (重点) 3、slaves(和自己的从节点机器名字一致) 4、通过HDFS namenode 格式化 5、通过scp拷贝 6、HDFS-NameNode:名称节点 7、HDFS-DataNode:数据节点 8、上传文件 9、HDFS-SecondaryNameNode:第二名称节点 10、HDFS-Web Console 11、HDFS 普通操作命令–hdfs dfs(hadoop fs) 12、HDFS 管理员命令 13、IDEA Maven工程简介 14、文件夹的创建 15、HDFS权限问题 16、IDEA Maven工程实现HDFS的文件上传与下载 17、HDFS上传文件原理 阅读全文
posted @ 2019-02-19 21:20 hsiehchou 阅读(152) 评论(0) 推荐(0) 编辑
摘要: 1、什么是大数据? 2、数据仓库和大数据 3、OLTP和OLAP 4、Google的基本思想:三篇论文重点 5、Hadoop的简介 6、HDFS的体系架构 7、MR编程模型 8、大数据典型应用场景 9、Hadoop的安装准备工作 10、Hadoop安装—本地安装 11、Hadoop安装—本地安装伪分布模式 12、免密码登录的原理和配置gen -t rsa 13、Hadoop安装—全分布模式 阅读全文
posted @ 2019-02-19 21:18 hsiehchou 阅读(127) 评论(0) 推荐(0) 编辑
摘要: 1、Linux下命令行中的复制和粘贴 2、打开网卡 3、修改为静态IP 4、IP地址 5、网关 6、子网掩码 7、DNS服务器1、2 8、vi /etc/resolv.conf 9、重启网卡 10、 如何测试可以ping通 11、解压JDK命令 12、系统JDK环境变量的位置 13、写入 14、环境变量生效 15、检验JDK是否生效 16、解压Hadoop 17、解压Hadoop 18、创建日志logs和临时目录tmp 19、vi hadoop-env.sh 20、vi core-site.xml 21、vi hdfs-site.xml 22、修改主机名 23、检查主机名 24、格式化 hdfs 25、启动 hdfs 26、关闭 hdfs 27、查看进程 28、页面 29、临时关闭防火墙 30、永久禁用防火墙 31、查看防火墙状 32、SSH无密码登录 33、关闭selinux防火墙 阅读全文
posted @ 2019-02-19 21:17 hsiehchou 阅读(96) 评论(0) 推荐(0) 编辑
摘要: 1、MySQL概要 2、MySQL安装 3、Navicat安装与操作MySQL 4、MySQL数据类型 5、MySQL外键、主键、唯一键 6、SQL语句–增删改查 阅读全文
posted @ 2019-02-19 21:16 hsiehchou 阅读(1031) 评论(0) 推荐(0) 编辑
摘要: 1、反射获取Class对象的三种方式 2、反射获得构造方法 3、反射获得成员变量 4、反射获得成员方法 5、泛型 6、泛型方法 7、泛型类 8、泛型擦除 9、类型通配符 10、反射与泛型 阅读全文
posted @ 2019-02-19 21:15 hsiehchou 阅读(94) 评论(0) 推荐(0) 编辑
摘要: 1、ObjectInputStream 2、POI 实现对word、Excel等文件操作 3、多线程简介 4、线程的使用 5、线程的优先级 6、守护线程 7、窗口卖票小案例 8、线程的同步 9、线程的wait和notify 10、线程池概述 11、线程池使用 阅读全文
posted @ 2019-02-19 21:13 hsiehchou 阅读(177) 评论(0) 推荐(0) 编辑
摘要: 1、异常概述 2、异常的分类 3、异常->方法抛出异常 throw 关键字 4、异常->异常的处理方式 try…catch…finally 5、自定义异常 阅读全文
posted @ 2019-02-19 21:12 hsiehchou 阅读(195) 评论(0) 推荐(0) 编辑
摘要: 1、IO概述 2、输入输出流分类 3、File 类 4、FileInputStream–输入字节流 5、FileOutputStream–输出字节流 6、FileReader–输入字符流 7、FileWriter-输出字符流 8、BufferdReader 9、BufferedWriter 10、序列化与反序列化 11、ObjectOutputStream--序列化 阅读全文
posted @ 2019-02-19 21:12 hsiehchou 阅读(84) 评论(0) 推荐(0) 编辑
摘要: 1、集合概念 2、集合和数组的区别 3、集合包含内容 4、集合框架->集合的继承关系图 5、List集合介绍 6、List集合->ArrayList 7、List集合->LinkedList 8、Set接口的介绍 9、Set集合->HashSet 10、Set集合->TreeSet 11、Map 集合 12、Map集合->HashMap 13、Map集合->HashTable 14、总结 阅读全文
posted @ 2019-02-19 21:08 hsiehchou 阅读(162) 评论(0) 推荐(0) 编辑
摘要: 1、Java API概述 2、数值运算 Math类 3、字符串运算 String类 4、字符串运算-大写字母 小写字母 数字出现的次数 5、字符串运算-查找父字符串中某一个子字符串出现的次数 6、字符串运算-split方法 7、字符串运算-规则匹配 8、Date 9、Calendar 10、DateFormat–xxxx年xx月xx日 11、simpleDateFormat–DateFormat子类 阅读全文
posted @ 2019-02-19 21:06 hsiehchou 阅读(1634) 评论(0) 推荐(0) 编辑