摘要: 背景:由于是数据库管理员,数据修正以及业务需求的数据添加、证书上传等繁琐重复的工作太磨人了,所以写了一个简单的小工具来快捷完成技术栈:后端:python+flask框架前端:html+js 代码位置:https://gitee.com/baiyuf/yunwei-tool 阅读全文
posted @ 2021-07-27 18:36 天宇星空 阅读(67) 评论(0) 推荐(0) 编辑
摘要: 搭建: 1.拉取镜像docker pull gethue/hue:latest 2.启动服务,挂载数据docker run -itd --name hue -p 8888:8888 gethue/hue:latest 3.hue.ini文件定位find / -name 'hue.ini' 4.访问: 阅读全文
posted @ 2021-07-22 19:22 天宇星空 阅读(260) 评论(0) 推荐(0) 编辑
摘要: java -DJENKINS_HOME=/home/qilin_jenkins/jenkins_data -jar /home/qilin_jenkins/jenkins.war --httpPort=40005 阅读全文
posted @ 2021-07-12 14:08 天宇星空 阅读(1123) 评论(0) 推荐(0) 编辑
摘要: 背景:1、本地有jdk环境2、hadoop使用本地的jdk没问题 问题:presto启动时候报错如下: 原因:1、可能是jdk跟presto版本不兼容,导致了本地jdk环境未生效2、可能是presto自身变量配置没生效解决方法:在presto的启动文件bin/launcher中配置jdk环境变量,然 阅读全文
posted @ 2021-07-03 10:50 天宇星空 阅读(205) 评论(0) 推荐(0) 编辑
摘要: 由于将服务器的登陆端口修改,导致hadoop初始化namenode报错22端口找不到解决方法:vim etc/hadoop/hadoop-env.sh##添加下面变量 export HADOOP_SSH_OPTS="-p 16666" 阅读全文
posted @ 2021-07-02 11:30 天宇星空 阅读(176) 评论(0) 推荐(0) 编辑
摘要: 1、下载官方his yum install https://repo.saltstack.com/yum/redhat/salt-repo-latest-2.el7.noarch.rpm -y yum -y install salt-master salt-minion [root@iZbp1ar1 阅读全文
posted @ 2021-06-18 09:17 天宇星空 阅读(207) 评论(0) 推荐(0) 编辑
摘要: 执行: ntpdate ntp1.aliyun.com 阅读全文
posted @ 2021-05-21 09:52 天宇星空 阅读(376) 评论(0) 推荐(0) 编辑
摘要: 背景:由于业务需求,数据需要每天从mysql >hive同步,考虑到资源占用情况,暂定凌晨业务空闲时执行定时任务 方法:1>通过sqoop创建增量写入数据的job,每晚定时执行【pass掉了,因为hive中数据文件格式为压缩snappy类型,presto连接后查询报错】 2>通过kettle先查讯h 阅读全文
posted @ 2021-05-20 09:33 天宇星空 阅读(169) 评论(0) 推荐(0) 编辑
摘要: kettle连接hive源报错: 错误连接数据库 [hive_hdp] : org.pentaho.di.core.exception.KettleDatabaseException: Error occurred while trying to connect to the database Er 阅读全文
posted @ 2021-05-14 14:26 天宇星空 阅读(1917) 评论(0) 推荐(0) 编辑
摘要: 问题:内网服务器没法调用钉钉机器人接口 解决思路:找一个代理服务器,通过外网服务器转发内网服务器的请求 解决方法:利用squid的正向代理功能,将内网请求通过外网转发出去 1、在外网服务器安装: yum -y install squid 配置文件: /etc/squid/squid.conf 启动方 阅读全文
posted @ 2021-05-13 10:06 天宇星空 阅读(400) 评论(0) 推荐(0) 编辑