上一页 1 ··· 8 9 10 11 12 13 14 15 16 ··· 36 下一页
摘要: 如果你确实干过es,那你肯定了解你们生产es集群的实际情况,部署了几台机器?有多少个索引?每个索引有多大数据量?每个索引给了多少个分片?你肯定知道! 但是如果你确实没干过,也别虚,我给你说一个基本的版本,你到时候就简单说一下就好了 (1)es生产集群我们部署了5台机器,每台机器是6核64G的,集群总 阅读全文
posted @ 2019-07-28 14:37 菩提树下的丁春秋 阅读(455) 评论(0) 推荐(0) 编辑
摘要: ,es性能优化是没有什么银弹的,啥意思呢?就是不要期待着随手调一个参数,就可以万能的应对所有的性能慢的场景。也许有的场景是你换个参数,或者调整一下语法,就可以搞定,但是绝对不是所有场景都可以这样。 一块一块来分析吧 在这个海量数据的场景下,如何提升es搜索的性能,也是我们之前生产环境实践经验所得 ( 阅读全文
posted @ 2019-07-28 14:35 菩提树下的丁春秋 阅读(661) 评论(0) 推荐(0) 编辑
摘要: (1)es写数据过程 1)客户端选择一个node发送请求过去,这个node就是coordinating node(协调节点) 2)coordinating node,对document进行路由,将请求转发给对应的node(有primary shard) 3)实际的node上的primary shar 阅读全文
posted @ 2019-07-28 14:34 菩提树下的丁春秋 阅读(446) 评论(0) 推荐(0) 编辑
摘要: 起码你大概知道那个技术的基本原理,核心组成部分,基本架构构成,然后参照一些开源的技术把一个系统设计出来的思路说一下就好 比如说这个消息队列系统,我们来从以下几个角度来考虑一下 (1)首先这个mq得支持可伸缩性吧,就是需要的时候快速扩容,就可以增加吞吐量和容量,那怎么搞?设计个分布式的系统呗,参照一下 阅读全文
posted @ 2019-07-28 14:33 菩提树下的丁春秋 阅读(176) 评论(0) 推荐(0) 编辑
摘要: 关于这个事儿,我们一个一个来梳理吧,先假设一个场景,我们现在消费端出故障了,然后大量消息在mq里积压,现在事故了,慌了 (1)大量消息在mq里积压了几个小时了还没解决 几千万条数据在MQ里积压了七八个小时,从下午4点多,积压到了晚上很晚,10点多,11点多 这个是我们真实遇到过的一个场景,确实是线上 阅读全文
posted @ 2019-07-28 14:32 菩提树下的丁春秋 阅读(317) 评论(0) 推荐(0) 编辑
摘要: 我们以前做过一个mysql binlog同步的系统,压力还是非常大的,日同步数据要达到上亿。mysql -> mysql,常见的一点在于说大数据team,就需要同步一个mysql库过来,对公司的业务系统的数据做各种复杂的操作。 你在mysql里增删改一条数据,对应出来了增删改3条binlog,接着这 阅读全文
posted @ 2019-07-28 14:31 菩提树下的丁春秋 阅读(207) 评论(0) 推荐(0) 编辑
摘要: 这个丢数据,mq一般分为两种,要么是mq自己弄丢了,要么是我们消费的时候弄丢了。咱们从rabbitmq和kafka分别来分析一下吧 rabbitmq这种mq,一般来说都是承载公司的核心业务的,数据是绝对不能弄丢的 (1)rabbitmq 1)生产者弄丢了数据 生产者将数据发送到rabbitmq的时候 阅读全文
posted @ 2019-07-28 14:30 菩提树下的丁春秋 阅读(197) 评论(0) 推荐(0) 编辑
摘要: 回答这个问题,首先你别听到重复消息这个事儿,就一无所知吧,你先大概说一说可能会有哪些重复消费的问题。 首先就是比如rabbitmq、rocketmq、kafka,都有可能会出现消费重复消费的问题,正常。因为这问题通常不是mq自己保证的,是给你保证的。然后我们挑一个kafka来举个例子,说说怎么重复消 阅读全文
posted @ 2019-07-28 14:29 菩提树下的丁春秋 阅读(254) 评论(0) 推荐(0) 编辑
摘要: 这个问题这么问是很好的,因为不能问你kafka的高可用性怎么保证啊?ActiveMQ的高可用性怎么保证啊?一个面试官要是这么问就显得很没水平,人家可能用的就是RabbitMQ,没用过Kafka,你上来问人家kafka干什么?这不是摆明了刁难人么。 所以有水平的面试官,问的是MQ的高可用性怎么保证?这 阅读全文
posted @ 2019-07-28 14:28 菩提树下的丁春秋 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 先说一下消息队列的常见使用场景吧,其实场景有很多,但是比较核心的有3个:解耦、异步、削峰 解耦:现场画个图来说明一下,A系统发送个数据到BCD三个系统,接口调用发送,那如果E系统也要这个数据呢?那如果C系统现在不需要了呢?现在A系统又要发送第二种数据了呢?A系统负责人濒临崩溃中。。。再来点更加崩溃的 阅读全文
posted @ 2019-07-28 14:25 菩提树下的丁春秋 阅读(192) 评论(0) 推荐(0) 编辑
上一页 1 ··· 8 9 10 11 12 13 14 15 16 ··· 36 下一页