摘要: 一、将HBase的jar包及hbase-site.xml添加到IDE 1、到安装HBase集群的任意一台机器上找到HBase的安装目录,到lib目录下下载HBase需要的jar包,然后再到conf目录下下载hbase-site.xml。 2、在ide中新建一个java项目,然后再右击"项目名",新建 阅读全文
posted @ 2017-04-08 23:44 365upit 阅读(1843) 评论(0) 推荐(0) 编辑
摘要: 搭建完全分布式集群 HBase集群建立在hadoop集群基础之上,所以在搭建HBase集群之前需要把Hadoop集群搭建起来,并且要考虑二者的兼容性.现在就以5台机器为例,搭建一个简单的集群. 软件版本:hadoop-2.8.0,hbase-1.3.0,zookeeper-3.4.10 5台机器IP 阅读全文
posted @ 2017-04-07 14:13 365upit 阅读(20728) 评论(3) 推荐(0) 编辑
摘要: 基础模块 def prt(age,name):#函数定义 print("%s is %d 年龄 old"%(name,age)) if __name__=="__main__":#程序入口 print("Hello World") prt(45,"gaici") 获取输入:使用input()函数 n 阅读全文
posted @ 2017-04-06 15:01 365upit 阅读(3413) 评论(0) 推荐(0) 编辑
摘要: 最近由于工作需要研究开源可视化项目superset,由于其国际化做不怎么好,故而记录下国际化的过程,本篇本着『授人以鱼不如授人以渔』的原则,只叙述国际化的过程及方法,不提供直接的国际化文件。 为了方便讲解,我们假定superset安装目录为PYHTON_LIB=/usr/local/lib/pyth 阅读全文
posted @ 2017-04-05 13:43 365upit 阅读(1832) 评论(0) 推荐(0) 编辑
摘要: 在对superset进行二次开发的过程中,往往需要搭建本地开发环境,修改后立即看到效果,下面我们就讲下开发环境的搭建。 1、打开PyCharm,在菜单栏上执行VCS-->Checkout from Version Control-->GitHub下载代码到PyCharm中 2、代码下载完成后,在终端 阅读全文
posted @ 2017-04-05 13:42 365upit 阅读(4455) 评论(1) 推荐(0) 编辑
摘要: 一、什么是Flume? flume 作为 cloudera 开发的实时日志收集系统,受到了业界的认可与广泛应用。 flume的特点: flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写 阅读全文
posted @ 2017-04-04 22:05 365upit 阅读(10884) 评论(1) 推荐(1) 编辑
摘要: 概述 hadoop-ha包含HDFS的HA和YARN的HA,下面就2个部件的HA进行搭建。 环境介绍: os:centos7.0 hadoop:2.8.0 zookeeper:3.4.10 5台虚拟机,各服务部署情况如下: 主机名 IP 安装软件 运行进程 c7001 192.168.70.101 阅读全文
posted @ 2017-04-02 23:16 365upit 阅读(11608) 评论(0) 推荐(1) 编辑
摘要: 前提准备3台centos7.0虚拟机 c7003:192.168.70.103 c7004:192.168.70.104 c7005:192.168.70.105 并在三台虚拟机上配置hosts为 192.168.70.103 c7003 192.168.70.104 c7004 192.168.7 阅读全文
posted @ 2017-04-02 01:11 365upit 阅读(3737) 评论(0) 推荐(1) 编辑
摘要: 1、概述 Flume是一个分布式、可靠的和高可用的海量日志采集、聚合和传输的系统。支持在系统中定制种类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。 PS:在HDFS中,文件只作为目录项存在,在文件关闭前,其长度一直显示为0。如果在一段时间内 阅读全文
posted @ 2017-03-23 22:39 365upit 阅读(1527) 评论(0) 推荐(0) 编辑