04 2019 档案
摘要:转载自:ShardingSphere官网 目录 一、介绍 1. Sharding-JDBC 2. Sharding-Proxy 3. Sharding-Sidecar(TBD) 4. 混合架构 二、功能列表 1. 数据分片 2. 分布式事务 3. 数据库治理 三、规划线路图 在介绍Sharding-
阅读全文
摘要:目录 一、线程池监控参数 二、线程池监控类 三、注意事项 在上一篇博文中,我们介绍了线程池的基本原理和使用方法。了解了基本概念之后,我们可以使用 Executors 类创建线程池来执行大量的任务,使用线程池的并发特性提高系统的吞吐量。但是,线程池使用不当也会使服务器资源枯竭,导致异常情况的发生,比如
阅读全文
摘要:目录 一、入门示例 二、异常场景1 三、异常场景2 四、解决方法 之前在使用线程池的时候,出现了 java.util.concurrent.RejectedExecutionException ,原因是线程池配置不合理,导致提交的任务来不及处理。接下来用一个简单的例子来复现异常。 一、入门示例 下面
阅读全文
摘要:上一篇博文介绍了线程池的实现原理,现在介绍如何使用线程池。 目录 一、创建线程池 二、向线程池提交任务 三、关闭线程池 四、合理配置线程池 五、线程池的监控 线程池创建规范 一、创建线程池 我们可以通过ThreadPoolExecutor来创建一个线程池。 创建一个线程池时需要输入以下几个关键参数:
阅读全文
摘要:Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或并发执行任务的程序都可以使用线程池。在开发过程中,合理地使用线程池能够带来3个好处。 1. 降低资源消耗。通过重复利用已创建的线程降低线程创建和销毁造成的消耗; 2. 提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行;
阅读全文
摘要:目录 前置条件:构造一个异步调用 一、使用wait和notify方法 二、使用条件锁 三、Future 四、使用CountDownLatch 五、使用CyclicBarrier 总结 在Java并发编程中,经常会因为需要提高响应速度而将请求异步化,即将同步请求转化为异步处理,这是很自然能想到的一种处
阅读全文
摘要:在安装好Azkaban后,熟悉Azkaban的用法花了较长时间,也踩了一些坑,接下来将详细描述Azkaban的使用过程。 目录 一、界面介绍 二、Projects 1. 创建Command类型单一Job示例 1)创建一个Project,填写名称和描述 2)点击Create Project之后 3)创
阅读全文
摘要:Azkaban是一个批量工作流任务调度器,使用Java语言开发。用于在一个工作流内以一个特定的顺序运行一组工作和流程。Azkaban使用job配置文件建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流。 目录 一、Azkaban优点 二、Azkaban安装模式 三、Azk
阅读全文
摘要:转载自:Azkaban学习之路 (一)Azkaban的基础介绍 目录 一、为什么需要工作流调度器 二、工作流调度实现方式 三、常见工作流调度系统 四、各种调度工具对比 五、Azkaban 与 Oozie 对比 1. 功能 2. 工作流定义 3. 工作流传参 4. 定时执行 5. 资源管理 6. 工作
阅读全文
摘要:近期接触了一个需求,业务背景是需要将关系型数据库的数据传输至HDFS进行计算,计算完成后再将计算结果传输回关系型数据库。听到这个背景,脑海中就蹦出了Sqoop迁移工具,可以非常完美的支持上述场景。 当然,数据传输工具还有很多,例如Datax、Kettle等等,大家可以针对自己的工作场景选择适合自己的
阅读全文
摘要:转载自:MySQL创建用户与授权 目录 一、创建用户 二、授权 三、设置和更改用户密码 四、撤销用户权限 五、删除用户 一、创建用户 命令: 说明: username:你将创建的用户名 host:指定该用户在哪个主机上可以登陆,如果是本地用户可用localhost,如果想让该用户可以从任意远程主机登
阅读全文
摘要:最近准备接触分布式计算,学习分布式计算的技术栈和架构知识。目前的分布式计算方式大致分为两种:离线计算和实时计算。在大数据全家桶中,离线计算的优秀工具当属Hadoop和Spark,而实时计算的杰出代表非Flink莫属了。Hadoop算是分布式计算的鼻祖,又是用Java代码实现,我们就以Hadoop作为
阅读全文
摘要:SSH无密码登录要使用公钥与私钥。Linux可以用ssh-keygen生成公钥/私钥对,下面以Ubuntu为例说明配置过程。 有两个节点:node01(172.17.0.14)和node02(172.17.0.17),node01节点想通过ssh免密登录到node02节点。 1. 在node01节点
阅读全文