jsqup

2022年9月5日

摘要：要求：统计每一个商品的四种行为出现次数案例 package SparkSQL.fun.project import org.apache.spark.SparkConf import org.apache.spark.sql.expressions.{MutableAggregationBuffe 阅读全文

posted @ 2022-09-05 21:23 jsqup 阅读(54) 评论(0) 推荐(0)

自定义UDAF2(多进一出函数)

摘要： package SparkSQL.fun.registerfum import org.apache.spark.SparkConf import org.apache.spark.sql.expressions.{MutableAggregationBuffer, UserDefinedAggre 阅读全文

posted @ 2022-09-05 21:11 jsqup 阅读(48) 评论(0) 推荐(0)

自定义UDAF函数(多对一函数)

摘要： package SparkSQL.fun.registerfum import org.apache.spark.SparkConf import org.apache.spark.sql.expressions.{MutableAggregationBuffer, UserDefinedAggre 阅读全文

posted @ 2022-09-05 21:10 jsqup 阅读(71) 评论(0) 推荐(0)

自定义函数utf函数(1对1函数)

摘要： package SparkSQL.fun.registerfum import org.apache.spark.SparkConf import org.apache.spark.sql.{Dataset, SparkSession} import scala.beans.BeanProperty 阅读全文

posted @ 2022-09-05 21:07 jsqup 阅读(58) 评论(0) 推荐(0)

开窗函数(javaAPI)

摘要： package SparkSQL.fun import org.apache.spark.SparkConf import org.apache.spark.sql.{Dataset, SparkSession} object PartitionCode { def main(args: Array 阅读全文

posted @ 2022-09-05 21:06 jsqup 阅读(107) 评论(0) 推荐(0)

parse_url函数

摘要：参数 path:路径/login host:www.baidu.com query:username=zs protocol:http协议 package SparkSQL.fun import org.apache.spark.SparkConf import org.apache.spark.s 阅读全文

posted @ 2022-09-05 20:51 jsqup 阅读(129) 评论(0) 推荐(0)

explode炸裂函数

摘要： package SparkSQL.fun import org.apache.spark.SparkConf import org.apache.spark.sql.SparkSession /** * _1 _2 * zs 60-70-90 * ls 70-80-90 * 求zs和ls的总成绩平阅读全文

posted @ 2022-09-05 20:49 jsqup 阅读(195) 评论(0) 推荐(0)

2022年9月2日

Zookeeper的客户端工具的使用

摘要：启动方式 zkCli.sh 通过简单的命令行代码操作zk文件系统 1. ls /路径：查找某一个节点下的子节点 2. get /路径：查询某一个节点的数据值阅读全文

posted @ 2022-09-02 15:58 jsqup 阅读(65) 评论(0) 推荐(0)

Zookeeper选举机制(需掌握)

摘要： 1. 第一次启动zk集群第一次启动的时候，每一个server会根据myid的大小进行投票选举，如果有半数以上的server投票选择了同一个节点，那么这个节点就会成为leader，剩余的节点全部成为follower. 会根据启动顺序和myid选择leader领导者，只有在启动中有半数以上的节点选择了阅读全文

posted @ 2022-09-02 15:47 jsqup 阅读(197) 评论(0) 推荐(0)

Zookeeper介绍

摘要： zookeeper文件系统组成 zookeeper本质上是文件系统+通知机制组成的 zookeeper文件系统说明树形的文件系统，在树形文件系统当中，每一个节点就是存储数据的位置，节点同时兼顾了文件和文件夹的功能。每个节点默认只能存储1MB的数据虽然说zookeeper中自带了一个文件系统，但阅读全文

posted @ 2022-09-02 15:30 jsqup 阅读(47) 评论(0) 推荐(0)

公告