摘要: MySQL安装 MySQL安装 使用 yum 在线安装 MySQL $ yum -y install wget # 安装 Linux 下载工具 wget$ cd /usr/local $ wget -i -c http://dev.mysql.com/get/mysql57-community-re 阅读全文
posted @ 2020-09-16 23:03 小石小石摩西摩西 阅读(48) 评论(0) 推荐(0) 编辑
摘要: Hadoop HA 集群搭建 Hadoop HA 集群搭建Hadoop 完全分布式环境搭建集群规划集群部署前提Hadoop伪分布式环境搭建配置IP映射安装 Java 与 Hadoop配置 Hadoop配置 MapReduce 与 YARN集群配置配置基本参数配置 SSH 免密登录格式化 HDFS启动 阅读全文
posted @ 2020-09-16 23:02 小石小石摩西摩西 阅读(120) 评论(0) 推荐(0) 编辑
摘要: Sqoop 数据迁移工具 由于传统数据库的成熟以及广泛的应用,目前大多数场景下数据管理与分析系统都是建立在关系型数据库基础之上的,数据的采集、加工、处理都是在关系型数据库总完成的。要实现大数据的处理与分析还需要把数据从关系型数据库导入 Hadoop 平台,利用 Hadoop 平台强大的数据处理能力来 阅读全文
posted @ 2020-09-16 23:01 小石小石摩西摩西 阅读(410) 评论(0) 推荐(0) 编辑
摘要: Hive数据仓库技术 Hive数据仓库技术Hive 简介Hive与传统关系型数据库Hive 架构设计Hive数据单元数据存储模型安装配置 Hive 环境Metastore的三种运行模式Metastore 配置属性搭建Hive环境内置derby版外置MySQL版Hive数据库及表操作基本数据类型复杂数 阅读全文
posted @ 2020-09-16 22:59 小石小石摩西摩西 阅读(434) 评论(0) 推荐(0) 编辑
摘要: Apache Hadoop Apache Hadoop大数据时代的发展趋势一数据将成为资产什么是大数据?大数据时代的关键技术Hadoop 概述和介绍Hadoop的生态圈Hadoop 发行版Hadoop 优缺点HDFS 分布式文件系统HDFS 体系结构NameNode元数据管理机制Hadoop环境搭建 阅读全文
posted @ 2020-09-16 22:58 小石小石摩西摩西 阅读(195) 评论(0) 推荐(0) 编辑
摘要: 环境搭建 利用phpstudy、JetBrains PhpStorm搭建开发环境 phpstudy 点击(phpstudy)链接可下载 百度云链接(右击复制链接) 按照提示安装即可(记住安装路径) JetBrains PhpStorm(推荐官网下载) 百度云链接(右击复制链接) 激活前按照提示安装即 阅读全文
posted @ 2020-09-16 18:08 小石小石摩西摩西 阅读(182) 评论(0) 推荐(0) 编辑
摘要: 搭建sqoop 搭建sqoop1.解压安装包2.添加环境变量3.添加mysql驱动4.添加配置文件5.查看是否配置成功 1.解压安装包 在/opt目录下新建sqoop文件夹,上传sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz tar -zxvf sqoop-1.4.7.bi 阅读全文
posted @ 2020-09-16 10:07 小石小石摩西摩西 阅读(124) 评论(0) 推荐(0) 编辑
摘要: 搭建HBase 搭建HBase1.解压HBase安装包2.配置环境变量3.修改HBase配置信息4.文件分发5.启动HBase 1.解压HBase安装包 在/opt目录下新建hbase,将hbase-1.2.6-bin.tar.gz上传到该文件夹下 tar -xvf hbase-1.2.6-bin. 阅读全文
posted @ 2020-09-16 10:06 小石小石摩西摩西 阅读(132) 评论(0) 推荐(0) 编辑
摘要: 搭建Hive2.X 搭建Hive2.XHive1.安装部署3.运行Hive4.测试Hive5.进行文件分发 Hive Hive 是基于 Hadoop 的⼀个数据仓库,可以将结构化的数据⽂件映射为⼀张表,并提供类 sql 查询功 能,Hive 底层将 sql 语句转化为 MapReduce 任务运⾏。 阅读全文
posted @ 2020-09-16 10:03 小石小石摩西摩西 阅读(238) 评论(0) 推荐(0) 编辑
摘要: 搭建Zookeeper 搭建Zookeeper介绍Zookeeper作用:注意:1.集群规划2.解压安装3.配置zoo.cfg文件4.将配置好的文件进行文件分发5.进行启动测试 介绍Zookeeper作用: Apache ZooKeeper是一种高可用性服务,用于维护少量协调数据,通知客户端该数据的 阅读全文
posted @ 2020-09-16 10:02 小石小石摩西摩西 阅读(98) 评论(0) 推荐(0) 编辑
摘要: 搭建Flume 搭建Flume1.下载解压(官网)2.配置flume3.配置环境变量4.进行文件传输配置slave5.Flume部署示例(CSDN)4.1 Avro(以下还没操作修改)4.2 Spool4.3 其它 1.下载解压(官网) 在/opt目录下新建目录flume 将下载好的apache-f 阅读全文
posted @ 2020-09-16 10:00 小石小石摩西摩西 阅读(178) 评论(0) 推荐(0) 编辑