摘要:
问题描述 集群默认计算引擎是 hive ,这两天自己试了一下 hive on spark 发现一个奇怪现象,首先 hive 引擎中文做简单查询或者聚合查询都正常,使用 spark 引擎简单查一个表的中文字段也没事,但是只要对 中文字段进行 group by 操作就乱码了 问题解决 在开启 spark 阅读全文
摘要:
需求 有一个字段有字母和数字组成,现要将字母和数字进行分离; portyarn8088manager porthdfs9820filse porthive10000query 要求输出结果 portyarn8088manager portyarnmanager 8088 porthdfs9820fi 阅读全文
摘要:
Environment Flink 可以在各种上下文环境中执行,不同的环境,代码提交的过程有所不同。这就要求在提交作业执行计算时,首先必须获取当前Flink的运行环境,从而建立起与Flink框架之间的联系,只有获取了上下文环境信息,才能将具体的任务调度到不同的TaskManager上执行。 1、创建 阅读全文
摘要:
需求 现需要返回每本小说的的iD,书名、评分,以及下一个比当前小说高和低的评分值。如果没有找到更高或更低的评分值,你希望结果集可以“折回”(第一个 score 的前一行是最后一个score;反之,最后一个 score 的下一行即是第一个 scoe)。你希望返回如下所示的结果集。 id name sc 阅读全文
摘要:
pom.xml <properties> <flink.version>1.13.0</flink.version> <java.version>1.8</java.version> <scala.binary.version>2.12</scala.binary.version> <slf4j.v 阅读全文
摘要:
需求 日志表中有如下数据 film:[non_marked]qq:[unit]tailpipe:[withabanana?]80sxxxxx call:[F_GET_ROWS()]b1:[ROSEWOOD...SIR]b2:[44400002]77.90xxxxx xxxxxabc[867]xxx[ 阅读全文
摘要:
报错 说是 hdfs 还处于安全模式 解决 hdfs dfsadmin -safemode leave 观察 hiveserver2 已正常 补充 hdfs 安全模式几个命令 hdfs dfsadmin -safemode get (功能描述:查看安全模式状态) hdfs dfsadmin -saf 阅读全文
摘要:
需求 有一下 json 数组,要求获取其 key [{"title":"笑傲江湖","author":"金庸"},{"title":"流星蝴蝶剑","author":"古龙"}] 需求实现 1、首先将 json 数组转换为 字符串 ;这里使用 字符串替换函数 translate select tra 阅读全文
摘要:
需求 id 是上表temp_id_list_0209的主键, 表每一行包含日志表中的一个 ID,现将一些 ID 从 Logs 表中删除。编写一个 SQL 查询得到 Logs 表中的连续区间的开始数字和结束数字,将查询表按照 start_id 排序。 要求输出结果为 start_id end_id 1 阅读全文
摘要:
需求 已知用户行为表 temp_actions_log, 大概字段有:(user_id 用户编号, op_id 操作编号, op_time 操作时间) 要求 统计每天符合以下条件的用户数:A操作之后是B操作,AB操作必须相邻。 统计用户行为序列为A-B-D的用户数 其中:A-B之间可以有任何其他浏览 阅读全文