摘要: 解决办法:重启Cloudera Management Service组件 原因猜测:该组件包含角色各种Monitor、Publisher、Event Server、Reports Manager等等,可能是在启动之初这些组件存在问题,导致组件的监控状态和数据未能更新,故而导致状态数据无法获取,所以组 阅读全文
posted @ 2024-05-06 18:28 风雨咒之无上密籍 阅读(41) 评论(0) 推荐(0) 编辑
摘要: 创建maven工程,pom.xml中引入连接k8s的客户端jar包: <properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> <fab 阅读全文
posted @ 2024-01-30 14:21 风雨咒之无上密籍 阅读(556) 评论(0) 推荐(1) 编辑
摘要: 使用s3fs-fuse挂载minio文件时无法删除问题排查过程 结论:部分场景无法满足,具体问题详见正文 1. 部署minio docker run -p 9000:9100 -p 9090:9190 --name minio -v /opt/minio/data:/data -e "MINIO_R 阅读全文
posted @ 2024-01-09 17:01 风雨咒之无上密籍 阅读(988) 评论(0) 推荐(0) 编辑
摘要: 1.编译过程 参考:https://blog.mygallop.cn/2020/10/centos/hadoop-cdh6-compile/ 2.问题记录 CDH6.3.2 Hadoop源码位置发生变化,新地址为https://github.com/cloudera/hadoop-commo.old 阅读全文
posted @ 2022-09-21 09:25 风雨咒之无上密籍 阅读(522) 评论(0) 推荐(0) 编辑
摘要: 1.安装Fiddler 略 2.编辑FiddlerScript,增加拦截判断 Goto OnBeforeResponse,跳转到指定函数,在函数中添加拦截某些http代码,如下。 if (oSession.fullUrl.Contains("/api/review-opinion/list")) { 阅读全文
posted @ 2022-06-25 15:52 风雨咒之无上密籍 阅读(1275) 评论(0) 推荐(0) 编辑
摘要: 过程中存在问题: maven编译scala工程报错java.lang.NoClassDefFoundError: scala/reflect/internal/Trees,解决方案看maven编译 1.新建Maven工程sparkdemo-2.3.3 过程略 2.配置pom.xml <?xml ve 阅读全文
posted @ 2022-06-18 15:31 风雨咒之无上密籍 阅读(112) 评论(0) 推荐(0) 编辑
摘要: window本地部署单机hadoop,修改配置文件和脚本如下,只记录关键配置和步骤,仅供参考 hadoop-2.6.5 spark-2.3.3 1.配置文件core-site.xml <configuration> <property> <name>fs.defaultFS</name> <valu 阅读全文
posted @ 2022-06-18 14:14 风雨咒之无上密籍 阅读(356) 评论(0) 推荐(0) 编辑
摘要: window下运行任务报错:Exception message: CreateSymbolicLink error (1314): ??????????? 报错信息如下: Diagnostics: Exception from container-launch. Container id: cont 阅读全文
posted @ 2022-06-18 13:57 风雨咒之无上密籍 阅读(395) 评论(0) 推荐(0) 编辑
摘要: 环境 window server 2019 单机版hadoop3.3.1 和 winutils.exe 异常 winutils.exe task create -m -1 -c -1 continer_2123_231 cmd /c "lanuch_container.bat" ExitCodeEx 阅读全文
posted @ 2021-11-25 16:50 风雨咒之无上密籍 阅读(747) 评论(0) 推荐(0) 编辑
摘要: Hadoop3 No FileSystem for scheme "hdfs" 异常信息: org.apache.hadoop.fs.UnsupportedFileSystemException: No FileSystem for scheme "hdfs" at org.apache.hadoo 阅读全文
posted @ 2020-12-26 11:15 风雨咒之无上密籍 阅读(1920) 评论(0) 推荐(0) 编辑