会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
超级无敌小剑
博客园
首页
新随笔
联系
订阅
管理
1
2
3
4
下一页
2023年6月16日
FlinkCDC读取MysqlBinlog日志出现的问题和解决
摘要: 1.时区问题 2.MysqlSource并行度问题
阅读全文
posted @ 2023-06-16 17:47 超级无敌小剑
阅读(348)
评论(0)
推荐(0)
编辑
Flink提交任务命令整理
摘要: 环境: Flink 1.13.6和Flink 1.14.4 1.yarn-session模式 --启动yarn seeion bin/yarn-session.sh \ -s 8 \ -jm 4g \ -tm 16g \ -nm yarn-session-flink \ -d yarn-sessio
阅读全文
posted @ 2023-06-16 17:30 超级无敌小剑
阅读(2378)
评论(0)
推荐(0)
编辑
2023年6月15日
Flink1.13.6 部署踩坑记录
摘要: 环境 Hadoop集群是Ambari2.7.5的版本 Flink是1.13.6_2.12的版本 问题记录 1.缺少jar包 报错:ERROR org.apache.flink.yarn.cli.FlinkYarnSessionCli [] - Error while running the Flin
阅读全文
posted @ 2023-06-15 18:07 超级无敌小剑
阅读(1029)
评论(0)
推荐(0)
编辑
2023年3月24日
FlinkCDC使用MysqlGTids进行消费的示例
摘要: 一般来说读取Mysql的binlog的时候通过 startupOptions(StartupOptions.specificOffset("mysql-bin.000003", 4L) // 从指定 binlog 文件名和位置启动就足够了,但是对于Mysql设置了主从库或者是说业务库发生故障,切从库
阅读全文
posted @ 2023-03-24 10:20 超级无敌小剑
阅读(699)
评论(0)
推荐(0)
编辑
Airflow生成基础DAG和Task的示例Python脚本
摘要: 环境: Pyhton 2.7.5 Airflow 1.10.1 Dag代码如下: # -*- coding: utf-8 -*- from airflow import DAG from airflow.operators.bash_operator import BashOperator from
阅读全文
posted @ 2023-03-24 10:18 超级无敌小剑
阅读(536)
评论(0)
推荐(0)
编辑
2023年3月4日
启动命令
摘要: nohup /root/runoob.sh > runoob.log 2>&1 &
阅读全文
posted @ 2023-03-04 00:29 超级无敌小剑
阅读(14)
评论(0)
推荐(0)
编辑
2022年2月14日
ambari 2.7.5 安装部署和踩坑记录
摘要: ambari2.7.5 兼容 HDP的版本: 2.7.4 兼容 HDP3.1.42.7.5 兼容 HDP3.1.5 部分兼容HDP3.1.4 仅用于升级 partianlly compatible for upgreade only HDP3.1.5的资源:链接:https://pan.baidu.
阅读全文
posted @ 2022-02-14 16:11 超级无敌小剑
阅读(895)
评论(0)
推荐(0)
编辑
2022年1月6日
dolphinscheduler 2.0.1hive数据源使用zooKeeper方式连接 创建不成功
摘要: 通过zk连接hive需要 Connecting to jdbc:hive2://tianhumaster:2181,tianhuslave1:2181,tianhuslave2:2181/default;password=isi;serviceDiscoveryMode=zooKeeper;user
阅读全文
posted @ 2022-01-06 18:13 超级无敌小剑
阅读(1113)
评论(0)
推荐(0)
编辑
ambari2.7.4卸载
摘要: 卸载ambari2.7.4 1.停止服务 ambari-server stop ambari-agent stop 2.卸载yum插件 通过这个命令搞出来命令 复制到脚本里去执行 yum list |egrep 'hadoop|@HDP|HDP|zookeeper|bigtop|atlas-meta
阅读全文
posted @ 2022-01-06 16:48 超级无敌小剑
阅读(190)
评论(0)
推荐(0)
编辑
2021年12月28日
dolphinscheduler 调度 DataX 记录
摘要: hive库默认的存储格式是 orc 格式 ,使用datax将mysql的数据导出到hdfs上时候,遇到hive无法读取的问题. #hive提供了一个--orcfiledump参数用于查看HDFS上ORC表格的文件信息 hive --orcfiledump #解析 orc 格式 为 json 格式 写
阅读全文
posted @ 2021-12-28 16:08 超级无敌小剑
阅读(815)
评论(0)
推荐(0)
编辑
1
2
3
4
下一页
公告