文章分类 -  分布式与大数据

摘要:转载 原文地址:https://blog.csdn.net/u014513883/article/details/104597521 一、下载consul 下载地址:https://www.consul.io/downloads wget https://releases.hashicorp.com 阅读全文
posted @ 2021-03-31 11:34 远洪 阅读(747) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.hangge.com/blog/cache/detail_2965.html 基本介绍 HBase 是一个分布式的、面向列的开源的 NoSQL 数据库。它是 Apache Hadoop 中的一个子项目,Hbase 依托于 Hadoop 的 HDFS 作为最基本 阅读全文
posted @ 2021-03-20 13:59 远洪 阅读(0) 评论(0) 推荐(0) 编辑
摘要:参考地址:https://blog.csdn.net/csj941227/article/details/79536464 前提条件 jdk 安装(略) hadoop 安装参考:https://www.cnblogs.com/liyuanhong/articles/14559030.html zoo 阅读全文
posted @ 2021-03-20 11:01 远洪 阅读(183) 评论(0) 推荐(0) 编辑
摘要:参考地址: https://segmentfault.com/a/1190000011266759 https://blog.csdn.net/fanxin_i/article/details/80425461 一、准备工作 JDK:1.8 Hadoop Releasecentos或debian或者 阅读全文
posted @ 2021-03-19 18:32 远洪 阅读(19) 评论(0) 推荐(0) 编辑
摘要:参考地址: https://www.cnblogs.com/nicekk/p/11561836.html https://www.cnblogs.com/frankdeng/p/9400622.html 一、flink涉及到的基础概念 Flink 几个最基础的概念,Client、JobManager 阅读全文
posted @ 2021-03-11 16:52 远洪 阅读(284) 评论(0) 推荐(0) 编辑
摘要:Hadoop:是一个分布式计算的开源框架 HDFS:是Hadoop的三大核心组件之一 Hive:用户处理存储在HDFS中的数据,hive的意义就是把好写的hive的sql转换为复杂难写的map-reduce程序。 Hbase:是一款基于HDFS的数据库,是一种NoSQL数据库,主要适用于海量明细数据 阅读全文
posted @ 2021-03-11 15:05 远洪 阅读(26951) 评论(1) 推荐(3) 编辑
摘要:转载 原文地址:https://cloud.tencent.com/developer/article/1131482 一、为什么需要hadoop? 在数据量很大的情况下,单机的处理能力无法胜任,必须采用分布式集群的方式进行处理,而用分布式集群的方式处理数据,实现的复杂度呈级数增加。所以,在海量数据 阅读全文
posted @ 2021-03-11 14:23 远洪 阅读(3803) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/qingyunzong/p/9004593.html 一、kafka架构图 如上图所示,一个典型的Kafka集群中包含若干Producer(可以是web前端产生的Page View,或者是服务器日志,系统CPU、Memory等),若干b 阅读全文
posted @ 2021-03-11 14:19 远洪 阅读(101) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/qingyunzong/p/9004509.html 简介 1.1概述 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于 阅读全文
posted @ 2021-03-11 13:54 远洪 阅读(111) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://baijiahao.baidu.com/s?id=1634226125542309459&wfr=spider&for=pc Kafka组件包括Producer、Broker、Consumer以及ZooKeeper。如下图所示: 在Kafka中,Broker一般有多个 阅读全文
posted @ 2020-11-06 16:14 远洪 阅读(511) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.jianshu.com/p/c74e0ec577b0 kafka依赖zookeeper,zookeeper安装参见:https://www.cnblogs.com/liyuanhong/articles/12501001.html jdk安装 查看centos 阅读全文
posted @ 2020-03-16 23:10 远洪 阅读(1135) 评论(0) 推荐(0) 编辑
摘要:转账 原文地址:https://www.cnblogs.com/marshhu/p/12070798.html 1、安装条件 想要安装zookeeper,必须先在linux中安装好java jdk 2、下载并解压zookeeper压缩包 先进入/usr/local/目录:cd /usr/local 阅读全文
posted @ 2020-03-15 23:09 远洪 阅读(1597) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/frankdeng/p/9584870.html 一.kafka-manager简介 kafka-manager是目前最受欢迎的kafka集群管理工具,最早由雅虎开源,用户可以在Web界面执行一些简单的集群管理操作。具体支持以下内容: 阅读全文
posted @ 2020-03-12 13:30 远洪 阅读(1335) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://blog.csdn.net/qq_42246689/article/details/84842230?depth_1-utm_source=distribute.pc_relevant_right.none-task&utm_source=distribute.pc_ 阅读全文
posted @ 2020-02-23 16:33 远洪 阅读(1177) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/justinzhang/p/4273470.html 1. 两者分别是什么? Apache Hive是一个构建在Hadoop基础设施之上的数据仓库。通过Hive可以使用HQL语言查询存放在HDFS上的数据。HQL是一种类SQL语言,这种 阅读全文
posted @ 2020-02-23 15:56 远洪 阅读(113) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://blog.csdn.net/MEIYOUDAO_JIUSHIDAO/article/details/90400639 最近做的一个项目中很多地方用到了redis,其中纠结了一下redis的数据持久化问题,毕竟是缓存,数据随时都有可能丢失,虽然概率不大,况且redis还 阅读全文
posted @ 2020-02-23 15:35 远洪 阅读(3776) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/zknublx/p/9140883.html 一、key pattern 查询相应的key (1)redis允许模糊查询key 有3个通配符 *、?、[] (2)randomkey:返回随机key (3)type key:返回key存储 阅读全文
posted @ 2020-02-22 23:31 远洪 阅读(2439) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/haoprogrammer/p/11065461.html Redis五种数据结构如下: 对redis来说,所有的key(键)都是字符串。 1.String 字符串类型 是redis中最基本的数据类型,一个key对应一个value。 S 阅读全文
posted @ 2020-02-22 23:29 远洪 阅读(297) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://www.cnblogs.com/daizhongxing/p/11586323.html 1、进入指定目录,下载资源(也可本地下载后复制到指定目录) wget http://download.redis.io/releases/redis-5.0.5.tar.gz 2 阅读全文
posted @ 2020-02-22 20:18 远洪 阅读(204) 评论(0) 推荐(0) 编辑
摘要:转载 原文地址:https://blog.csdn.net/weixin_41512727/article/details/89249668 消息生产代码: #coding:utf-8 #producer.py from kafka import KafkaProducer from kafka.e 阅读全文
posted @ 2020-02-22 17:12 远洪 阅读(2757) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示