摘要: HDFS读过程 HDFS API 读文件 Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); Path file = new Path("demo.txt"); FSDataInputStre 阅读全文
posted @ 2020-08-23 23:49 水木青楓 阅读(348) 评论(0) 推荐(0) 编辑
摘要: 在分析DataNode时, 因为DataNode上保存的是数据块, 因此DataNode主要是对数据块进行操作. DataNode的主要工作流程 客户端和DataNode的通信: 客户端向DataNode的数据块读写, 采用TCP/IP流接口(DataXceiver)进行数据传输 客户端在检测到Da 阅读全文
posted @ 2020-08-23 21:33 水木青楓 阅读(935) 评论(0) 推荐(0) 编辑
摘要: 在数据库的锁机制中介绍过,数据库管理系统(DBMS)中的并发控制的任务是确保在多个事务同时存取数据库中同一数据时不破坏事务的隔离性和统一性以及数据库的统一性。 乐观并发控制(乐观锁)和悲观并发控制(悲观锁)是并发控制主要采用的技术手段。 无论是悲观锁还是乐观锁,都是人们定义出来的概念,可以认为是一种 阅读全文
posted @ 2020-08-23 21:20 水木青楓 阅读(450) 评论(0) 推荐(0) 编辑
摘要: 脏读:事务A提交后又发生了回滚,事务B读取了事务A提交后的数据,但是由于发生回滚,读取的数据是无效的。 幻读:事务A对全表数据进行了更改操作,事务B对表添加了一行数据,导致事务A的全表操作没有包含B新提交的一行数据。 不可重复读:事务A读了一条数据,要处理某个逻辑,此时事务B把数据该了,事务A再次读取时,发现数据有变化,导致前后两次读取到的数据不一样。 阅读全文
posted @ 2020-08-23 16:53 水木青楓 阅读(575) 评论(0) 推荐(0) 编辑
摘要: 使用 concat_ws 实现行转列,使用 lateral view explode 实现列转行。 阅读全文
posted @ 2020-08-23 16:44 水木青楓 阅读(213) 评论(0) 推荐(0) 编辑