摘要: HDP安装参考:https://www.cnblogs.com/bigdatasafe/p/10343022.html http://www.mamicode.com/info-detail-2310550.html ambari部署HDP问题 Please check openssl librar 阅读全文
posted @ 2020-05-28 11:22 鱼丸河粉 阅读(173) 评论(0) 推荐(0) 编辑
摘要: 下载搜索:https://sourceforge.net/projects/pdsh/ 下载后放入linux目录,一次进行如下操作: 1、tar -jxvf pdsh-2.26.tar.bz2 -C /tmp 2、cd /tmp/pdsh-2.26/ 3、./configure \--prefix= 阅读全文
posted @ 2020-05-27 20:28 鱼丸河粉 阅读(751) 评论(0) 推荐(0) 编辑
摘要: 导入数据 原文链接:https://blog.csdn.net/qichangjian/java/article/details/88116434 导入到 hdfs例子 sqoop import \#--connect jdbc:mysql://hadoop102:3306/$db_name \-- 阅读全文
posted @ 2020-05-21 18:08 鱼丸河粉 阅读(5854) 评论(0) 推荐(0) 编辑
摘要: 1.下载 mongo最新版本 docker pull mongo 2.创建配置服务复制集 123.30.194.71: docker run -d --name configsvr0 -p 10021:27019 -v /home/mongodb/data/cs/configsvr0:/data/c 阅读全文
posted @ 2020-05-19 23:20 鱼丸河粉 阅读(4221) 评论(3) 推荐(1) 编辑
摘要: 浅拷贝: 浅拷贝(同一个引用):仅仅复制所考虑的对象,而不复制它所引用的对象。 Object类 是所有类的直接或间接父类,Object中存在clone方法,如下 protected native Object clone() throws CloneNotSupportedException; 如果 阅读全文
posted @ 2020-05-06 21:40 鱼丸河粉 阅读(192) 评论(0) 推荐(0) 编辑
摘要: 展示从Oracle与sqlServer数据写入到Hive中 在idea的resources文件夹放入配置文件:core-site.xml、hdfs-site.xml,hive-site.xml hive-site.xml内容 <configuration> <property> <!--根据amba 阅读全文
posted @ 2020-04-28 11:36 鱼丸河粉 阅读(1978) 评论(0) 推荐(0) 编辑
摘要: GIT2.25安装详细正确步骤 git安装原文链接:https://blog.csdn.net/m0_46495862/article/details/104853893?utm_source=blogxgwz7 下载地址: “https://git-scm.com/downloads” 1. 根据 阅读全文
posted @ 2020-04-02 21:42 鱼丸河粉 阅读(195) 评论(0) 推荐(0) 编辑
摘要: -什么是反射 -反射机制:反射就是Reflection,Java的反射是指程序在运行期可以拿到一个对象的所有信息;这种通过Class实例获取class信息的方法称为反射(Reflection)。 通过反射可以越过泛型检查。 -class类 除了int等基本类型外,Java的其他类型全部都是class 阅读全文
posted @ 2020-03-24 21:34 鱼丸河粉 阅读(163) 评论(0) 推荐(0) 编辑
摘要: 介绍 1.原理: 从hive metadata中加载数据源根据用户指定的数据质量检查的规则,将规则转换为Spark程序,利用Spark这种强大的计算能力,为数据质量做出检测分析。 2.程序设计模块 measure:计算层,使用spark计算用户制定的数据质量校验规则,由scala开发。service 阅读全文
posted @ 2020-02-11 17:33 鱼丸河粉 阅读(3255) 评论(1) 推荐(0) 编辑
摘要: 属性名称默认值含义 spark.yarn.am.memory 512m client模式下,YARN Application Master使用的内存总量 spark.yarn.am.cores 1 client模式下,Application Master使用的cpu数量 spark.driver.c 阅读全文
posted @ 2020-01-16 15:09 鱼丸河粉 阅读(2853) 评论(0) 推荐(0) 编辑