RICH-ATONE

上一页 1 2 3 4 5 6 7 8 9 ··· 33 下一页

2022年9月7日 #

shell判断一个字符串是否包含另一个字符串 (五种方法示例)

摘要: 方法一:利用字符串运算符 str='this is a tree! and that is a car.' //如果包含this [[ $str =~ "this" ]] && echo "\$str contains this" //如果不包含that [[ $str =~ "that" ]] | 阅读全文

posted @ 2022-09-07 15:48 RICH-ATONE 阅读(6892) 评论(0) 推荐(0) 编辑

Shell脚本的Sleep命令

摘要: linux shell 中的sleep命令 在有的shell(比如linux中的bash)中sleep还支持睡眠(分,小时) sleep 1 睡眠1秒 sleep 1s 睡眠1秒 sleep 1m 睡眠1分 sleep 1h 睡眠1小时 阅读全文

posted @ 2022-09-07 15:30 RICH-ATONE 阅读(659) 评论(0) 推荐(0) 编辑

Clickhouse执行报错(Double-distributed IN/JOIN subqueries is denied (distributed_product_mode = ‘deny‘))

摘要: 错误示例: DB::Exception: Double-distributed IN/JOIN subqueries is denied (distributed_product_mode = 'deny'). You may rewrite query to use local tables in 阅读全文

posted @ 2022-09-07 15:23 RICH-ATONE 阅读(647) 评论(0) 推荐(0) 编辑

2022年9月6日 #

hive分桶优化

摘要: 什么是分桶? 和分区一样,分桶也是一种通过改变表的存储模式,从而完成对表优化的一种调优方式。 但和分区不同的是,分区是将表拆分到不同的子目录中进行存储,而分桶是将表拆分到不同文件中进行存储。 那什么是分桶呢?它按分桶键哈希取模的方式,将表中数据随机、均匀地分发到若干桶文件中。 比如,对表的ID字段进 阅读全文

posted @ 2022-09-06 17:52 RICH-ATONE 阅读(484) 评论(0) 推荐(0) 编辑

2022年9月5日 #

clickhouse实现 lag/lead

摘要: clickhouse中的lead和lag实现有多种方法,在标准的SQL中使用的windows function即可实现。 示例数据: CREATE TABLE llexample ( g Int32, a Date ) ENGINE = Memory; INSERT INTO llexample S 阅读全文

posted @ 2022-09-04 23:59 RICH-ATONE 阅读(747) 评论(0) 推荐(0) 编辑

2022年9月4日 #

YARN 运维、巡检、监控、调优、排障

摘要: YARN 运维、巡检、监控、调优、排障 (涉及内存大小配置问题) 阅读全文

posted @ 2022-09-04 23:55 RICH-ATONE 阅读(67) 评论(0) 推荐(0) 编辑

Hadoop2.7.1完全分布式配置(10min搞定)

摘要: Hadoop完全分布式配置前言Hadoop的安装分为单机方式、伪分布式方式和完全分布式方式。a. 单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完 阅读全文

posted @ 2022-09-04 23:52 RICH-ATONE 阅读(338) 评论(0) 推荐(0) 编辑

logstash和filebeat架构相关

摘要: filebeat架构: filebeat由两个主要的组件,inputs harvesters输入和收割机 harvesters读单个文件,逐行读取发送到输出。每一个文件都有一个harvester,收割机负责文件的打开和关闭,收割机工做时文件时打开的状态。最后没有读不到了会出现close_inacti 阅读全文

posted @ 2022-09-04 23:22 RICH-ATONE 阅读(37) 评论(0) 推荐(0) 编辑

clickhouse和prestoTPC测试

摘要: 参考示例: https://help.aliyun.com/document_detail/199475.html (阿里云tpc测试文档) TPC-DS用于Clickhouse和Doris性能测试 (数据生成参考) 开源OLAP引擎测评报告(SparkSql、Presto、Impala、HAWQ、 阅读全文

posted @ 2022-09-04 23:07 RICH-ATONE 阅读(114) 评论(0) 推荐(0) 编辑

2022年9月2日 #

Shell命令往Kafka发送数据示例

摘要: 启动发送命令: hdfs dfs -cat /user/pirate/warehouse/3_415/* | head -10 | ./bin/kafka-console-producer.sh --broker-list ip:9092 --topic mytest 启动消费命令: ./bin/k 阅读全文

posted @ 2022-09-02 11:26 RICH-ATONE 阅读(422) 评论(0) 推荐(0) 编辑

上一页 1 2 3 4 5 6 7 8 9 ··· 33 下一页

导航