摘要: map() fution:map(func, *iterables) --> map object reduce() filter() 阅读全文
posted @ 2024-07-11 17:58 ivyJ 阅读(0) 评论(0) 推荐(0) 编辑
摘要: 收藏网站 : https://python-course.eu/advanced-python/lambda-filter-reduce-map.php 阅读全文
posted @ 2023-11-24 18:05 ivyJ 阅读(1) 评论(0) 推荐(0) 编辑
摘要: 在service层直接在方法上注解开启 @Async("getyourPool")准备配置 @Configuration@EnableAsync@Slf4jpublic class yourConfig { @Value("${thread.pool.keepAliveSeconds:300}") 阅读全文
posted @ 2023-06-19 17:54 ivyJ 阅读(22) 评论(0) 推荐(0) 编辑
摘要: .withColumn("size", size(col("columnname"))) \ 阅读全文
posted @ 2023-06-19 17:23 ivyJ 阅读(38) 评论(0) 推荐(0) 编辑
摘要: 截取列值/左边的值.withColumn("columnname1", substring_index(col("columnname"), "/", -1)) 截取列值/右边的值 .withColumn("columnname2", substring_index(col("columnname" 阅读全文
posted @ 2023-06-19 17:18 ivyJ 阅读(70) 评论(0) 推荐(0) 编辑
摘要: 参考 : https://www.coder.work/article/3220624 spark 2.4的新方法 Spark 2.4 引入了新的 SQL 函数 slice,可用于从数组列中提取一定范围的元素。 阅读全文
posted @ 2023-06-19 17:14 ivyJ 阅读(29) 评论(0) 推荐(0) 编辑
摘要: result = resdf.withColumn("Date", to_date(col("Date"), "yyyy-MM-dd")).\ withColumn("arrayDouble", regexp_replace(col("arrayDouble"), "\\]", "")).\ wit 阅读全文
posted @ 2023-01-29 15:14 ivyJ 阅读(333) 评论(0) 推荐(0) 编辑
摘要: Data Processing code sample : Scala : https://github.com/awslabs/deequ python : https://github.com/awslabs/python-deequ 阅读全文
posted @ 2023-01-28 18:18 ivyJ 阅读(12) 评论(0) 推荐(0) 编辑
摘要: System.setProperty("javax.net.ssl.keyStore", "C:\\swdtools\\jdk-11.0.11-X64\\lib\\security\\keystore.jks");System.setProperty("javax.net.ssl.trustStro 阅读全文
posted @ 2023-01-28 18:08 ivyJ 阅读(35) 评论(0) 推荐(0) 编辑
摘要: IDE vm加参数: -Djavax.net.debug=ssl:handshake:verbose:keymanager:trustmanager-Djava.security.debug=access:stack 阅读全文
posted @ 2023-01-28 18:04 ivyJ 阅读(106) 评论(0) 推荐(0) 编辑