摘要:
crontab命令常见于Unix和Linux的操作系统之中,用于设置周期性被执行的指令。该命令从标准输入设备读取指令,并将其存放于“crontab”文件中,以供之后读取和执行。通常,crontab储存的指令被守护进程激活。crond 常常在后台运行,每一分钟检查是否有预定的作业需要执行。这类作业一般 阅读全文
摘要:
博客来源:https://blog.csdn.net/yhb315279058/article/details/50466125 问题1:reduce task数目不合适 问题2:shuffle磁盘IO时间长 问题3:map|reduce数量大,造成shuffle小文件数目多 问题4:序列化时间长、 阅读全文
摘要:
num-executors 参数说明:该参数用于设置Spark作业总共要用多少个Executor进程来执行。Driver在向YARN集群管理器申请资源时,YARN集群管理器会尽可能按照你的设置来在集群的各个工作节点上,启动相应数量的Executor进程。这个参数非常之重要,如果不设置的话,默认只会给 阅读全文
摘要:
1.DataFrame使用unionAll算子 java.util.concurrent.ExecutionException: org.apache.spark.sql.AnalysisException: Union can only be performed on tables with th 阅读全文
摘要:
HikariCP配置说明: 参数 描述 默认值 其他autoCommit 自动提交从池中返回的连接 true -connectionTimeout 等待来自池的连接的最大毫秒数 30000 如果小于250毫秒,则被重置回30秒idleTimeout 连接允许在池中闲置的最长时间 600000 如果i 阅读全文
摘要:
java 开发遇到的问题(持续更新) 1.问题:jdbc从数据库读取到的时间与数据库时间不一致. 解决方法: 在jdbc连接的url手动添加中国时区标识:jdbc:mysql://localhost:3306/cnblogs?serverTimezone=Asia/Shanghai 2.mysql数 阅读全文
摘要:
1.问题: ### Cause: com.microsoft.sqlserver.jdbc.SQLServerException: 必须声明表变量 "@P0"。 ; uncategorized SQLException; SQL state [S0001]; error code [1087]; 必 阅读全文
摘要:
目录 一、业务场景介绍 二、Spring Cloud核心组件:Eureka 三、Spring Cloud核心组件:Feign 四、Spring Cloud核心组件:Ribbon 五、Spring Cloud核心组件:Hystrix 六、Spring Cloud核心组件:Zuul 七、总结 概述 毫无 阅读全文
摘要:
Timer是一种定时器工具,用来在一个后台线程计划执行指定任务。它可以计划执行一个任务一次或反复多次。 TimerTask一个抽象类,它的子类代表一个可以被Timer计划的任务。具体的任务在TimerTask中run接口中实现。 通过Timer中的schedule方法启动定时任务。 一、运行定时器启 阅读全文
摘要:
链接:https://zhuanlan.zhihu.com/p/57055360 面试题 为什么使用消息队列? 消息队列有什么优点和缺点? Kafka、ActiveMQ、RabbitMQ、RocketMQ 都有什么区别,以及适合哪些场景? 面试官心理分析 其实面试官主要是想看看: 第一,你知不知道你 阅读全文