随笔分类 -  中间件的使用

摘要:背景 因为ES的近实时性 所以insert和update es的数据 在短时间可能查询不到(1s左右) 参考上一篇博客https://www.cnblogs.com/ssskkk/p/15417053.html#_label0 这在开发中这是一个很头疼的问题. 解决方案 1.数据insert upd 阅读全文
posted @ 2023-09-04 00:06 palapala 阅读(325) 评论(0) 推荐(0) 编辑
摘要:ElasticSearch偶尔查询不到数据 1.数据刷新策略 现象:每次insert之后,立刻查询es的数据是有可能查不到的,因为es从内存写到磁盘需要时间 原因:es默认每1s执行一次refresh,因此文档实时性被提高到1s,这也是es被称为近实时的原因 解决方法:写的时候指定数据刷新策略, r 阅读全文
posted @ 2021-10-17 18:31 palapala 阅读(4992) 评论(1) 推荐(0) 编辑
摘要:消息队列(MQ)简介 Kafka是一个消息队列 消息队列的作用: 异步 解耦 削峰 消息队列的两种模式: 1.点对点(消费者主动拉取数据,拉取完成消息清除) 2.发布订阅模式(一对多,消费者接收数据之后 不会清除消息)由队列主动给消费者推消息,速度由消息队列决定,消费者的处理能力不确定。 Kafka 阅读全文
posted @ 2021-10-07 19:21 palapala 阅读(233) 评论(0) 推荐(0) 编辑
摘要:zookeeper概念 1. zookeeper是一个分布式的 开源的,分布式应用程序的协调服务,zookeeper翻译过来就是动物管理员,它用来管理Hadoop(大象),Hive(蜜蜂),pig(小猪)的管理员 简称zk zookeeper提供的功能主要包括: 配置管理 分布式锁 集群管理 2. 阅读全文
posted @ 2021-07-25 22:08 palapala 阅读(1593) 评论(0) 推荐(0) 编辑
摘要:环境准备 1.、gitLab:因为gitLab需要内存太大(4G起步),我们使用官网的https://gitlab.com/ 2.、docker:也安装在宿主机中 3、gitLabRunner:安装在自己服务器宿主机中(不安装在容器里) 注意:gitLabRunner如果安装在容器里,此后在runn 阅读全文
posted @ 2021-05-30 19:50 palapala 阅读(568) 评论(0) 推荐(0) 编辑
摘要:背景 linux中如果简单的查看文件内容 可以用cat命令 如果想对文件的内容做一些统计 awk 一个强大的文本处理语言,用于数据处理和统计 本文只是介绍一些简单的常用命令 awk常用命令 首先我们准备一个文本文件用来测试 Hello.txt Hello xiaohong 1999 Hello xi 阅读全文
posted @ 2021-01-08 18:41 palapala 阅读(368) 评论(0) 推荐(0) 编辑
摘要:目前只有思路,过两天上代码。。。。。。 加权轮询 服务器 权重 A 5 B 3 C 2 1)总的权重是10,先随机出一个数字(肯定是10以内的数字) 2)然后遍历权重的数组[5,3,2]一个一个的去比较 核心代码 遍历ip 拿到权重weight if(offset<weight) return ip 阅读全文
posted @ 2020-08-25 01:16 palapala 阅读(166) 评论(0) 推荐(0) 编辑
摘要:Docker简介 历史的演化 1)物理机时代:进程耦合,共享文件资源。资源抢占时,一个应用CPU过高会影响其它应用 2)虚拟化:虚拟机建立在虚拟硬件层之上,每个虚拟机都有独立的内核和用户程序以及依赖库,VM需要安装操作系统。 3)容器化技术:而 docker 容器建立在宿主机内核和 docker 服 阅读全文
posted @ 2020-04-18 21:24 palapala 阅读(221) 评论(0) 推荐(0) 编辑
摘要:ElasticSearch基础概念 Elasticsearch在Centos 7上的安装常见的问题 使用场景:比如分库的情况下,你想统计所有数据的报表,就把所有数据都放在ElasticSearch上 关系型数据库 ElasticSearch 数据库Database 索引index,支持全文检索 表T 阅读全文
posted @ 2019-11-16 00:13 palapala 阅读(579) 评论(0) 推荐(1) 编辑
摘要:JDK中Timer类 java.util.Timer定时器实际上是一个单线程,定时调度所拥有的TimerTask任务。 TimerTask类是一个定时任务类,实现了Runnable接口,而且是一个抽象类,需要定时执行的任务都需要重写它的run方法。 TImer类的缺陷 1)单线程,如果存在多个任务, 阅读全文
posted @ 2019-01-29 15:13 palapala 阅读(1716) 评论(0) 推荐(0) 编辑
摘要:Redis集群概述 集群的核心意义只有一个:保证一个节点出现了问题之后,其他的节点可以继续提供服务使用。 Redis基础部分讲解过主从配置:对于主从配置可以有两类:一主二从,层级关系。开发者一主二从是常用的手段。 Redis的主从配置是所有Redis集群的一个基础。但是只是依靠主从依然无法实现高可用 阅读全文
posted @ 2018-12-26 22:47 palapala 阅读(1614) 评论(0) 推荐(1) 编辑
摘要:Redis数据类型 基本类型(String int): 如 set key value 、get key 等 所有命令都是按照 key value keys * 可以将全部数据列出,其中后面的 " * " 表示数据的匹配。 setnx key value 不覆盖设置,返回0表示失败(原来这个key已 阅读全文
posted @ 2018-11-04 23:55 palapala 阅读(653) 评论(0) 推荐(1) 编辑
摘要:RabbitMQ概述 MQ的应用场景:异步,削峰,解耦 RabbitMQ是遵从AMQP协议的 通信协议都设计到报文交互,换句话说RabbitMQ就是AMQP协议的Erlang的实现。 AMQP说到底还是一个通信协议从low-level层面举例来说,AMQP本身是应用层的协议,其填充于TCP协议的数据 阅读全文
posted @ 2018-10-31 00:18 palapala 阅读(991) 评论(2) 推荐(0) 编辑
摘要:linux安装maven 先解压maven的压缩包apache-maven-3.5.4-bin.tar.gz 命令: tar -zavf pache-maven-3.5.4-bin.tar.gz 然后编辑linux的环境变量属性:vim etc/profile 在末尾添加如下代码 export M2 阅读全文
posted @ 2018-09-16 20:14 palapala 阅读(9524) 评论(0) 推荐(0) 编辑
摘要:nginx安装步骤 1 nginx安装环境 nginx是C语言开发,建议在linux上运行,本教程使用Centos6.5作为安装环境。 gcc 安装nginx需要先将官网下载的源码进行编译,编译依赖gcc环境,如果没有gcc环境,需要安装 gcc:yum install gcc-c++ PCRE P 阅读全文
posted @ 2018-07-02 22:33 palapala 阅读(228) 评论(1) 推荐(0) 编辑