摘要: Kafka producer拦截器--Interceptor 拦截器原理: producer拦截器(interceptor)是在Kafka 0.10版本被引入的,主要用于实现clients端的定制化逻辑.对于producer而言,interceptor使得用户在消息发送前以及producer回调逻辑 阅读全文
posted @ 2021-08-25 11:12 明明就- 阅读(428) 评论(0) 推荐(0) 编辑
摘要: 问题: 命令:pip3 install matplotlib 发现网络资源太少,导致下载速度缓慢,最后time out报错. 问题解决: 方法一:设置超时时间 pip3 install -U --timeout 1000 scikit-learn 结果:可以解决问题,但是网速慢还是无法解决,只不过是 阅读全文
posted @ 2021-08-24 17:17 明明就- 阅读(253) 评论(0) 推荐(0) 编辑
摘要: 1.创建二维数组的几种方法 方法1:通过列表创建 DataFrame对象里包含两个索引,行索引(0轴,axis=0),列索引(1轴,axis=1) import pandas as pd import numpy as np li = [ [1,2,3,4], [2,3,4,5] ] # DataF 阅读全文
posted @ 2021-08-24 17:12 明明就- 阅读(106) 评论(0) 推荐(0) 编辑
摘要: pandas以类似字典的方式来获取某一列的值,比如df[‘A’],这会得到df的A列。如果我们对某一行感兴趣呢?这个时候有两种方法,一种是iloc方法,另一种方法是loc方法。loc是指location的意思,iloc中的i是指integer。这两者的区别如下: loc:works on label 阅读全文
posted @ 2021-08-24 16:15 明明就- 阅读(724) 评论(0) 推荐(0) 编辑
摘要: 前言: CDC,Change Data Capture,变更数据获取的简称,使用CDC我们可以从数据库中获取已提交的更改并将这些更改发送到下游,供下游使用。这些变更可以包括INSERT,DELETE,UPDATE等, 用户可以在以下的场景下使用CDC: 使用flink sql进行数据同步,可以将数据 阅读全文
posted @ 2021-08-20 17:54 明明就- 阅读(2346) 评论(0) 推荐(0) 编辑
摘要: 前言: 解决办法:Settings->Editor->File Encodings修改配置为UTF-8 阅读全文
posted @ 2021-08-20 16:17 明明就- 阅读(570) 评论(0) 推荐(0) 编辑
摘要: 1.使用Linux命令查询文本文件中空行所在的行号 vi test_sed.txtlxz lxz lxztoday today todaymorning afternoon eveningtomorrow tomorrow tomorrow# 输入awk '/^$/{print NR}' test_ 阅读全文
posted @ 2021-08-20 15:54 明明就- 阅读(33) 评论(0) 推荐(0) 编辑
摘要: 一 cut cut的工作就是"剪",具体的说就是在文件中负责剪切数据用的.cut命令从文件的每一行剪切字节,字符,和字段并将这些字节,字符和字段输出. 1.基本用法 cut[选项参数] filename 说明:默认分隔符是制表符 2.选项参数说明 -f 列号,提取第几列的 -d 分隔符,按照指定的分 阅读全文
posted @ 2021-08-20 12:44 明明就- 阅读(62) 评论(0) 推荐(0) 编辑
摘要: 前言: Shell是一个命令行解释器,它接受应用程序/用户命令,然后调用操纵系统内核. Shell还是一个功能相当强大的编程语言,易编写,易调试,灵活性强. 一 Shell解析器 1.Linux提供的Shell解析器有:cat /etc/shells /bin/sh /bin/bash /sbin/ 阅读全文
posted @ 2021-08-20 11:30 明明就- 阅读(27) 评论(0) 推荐(0) 编辑
摘要: 前提:请参考这里,然后再阅读此内容. 1.HDFS文件上传 下载 删除 改名称 文件详情查看 文件和文件夹的判断 package com.lxz.hdfs; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.f 阅读全文
posted @ 2021-08-19 17:50 明明就- 阅读(150) 评论(0) 推荐(0) 编辑