摘要: 在目前的企业IT架构中,系统管理员以及DBA都会考虑使用NoSQL数据库来解决RDBMS所不能解决的问题,特别是互联网行业。传统的关系型数据库主要以表(table)的形式来存储数据,而无法应对非结构化数据的挑战。在进行数据标准化的过程中,关系型数据库性能遭遇了瓶颈。 NoSQL顾名思义就是Not-O 阅读全文
posted @ 2017-02-16 16:40 无尽的缥缈 阅读(300) 评论(0) 推荐(0) 编辑
摘要: 之前的文章《更高的压缩比,更好的性能–使用ORC文件格式优化Hive》中介绍了Hive的ORC文件格式,它不但有着很高的压缩比,节省存储和计算资源之外,还通过一个内置的轻量级索引,提升查询的性能。这个内置的轻量级索引,就是下面所说的Row Group Index。 其实ORC支持的索引不止这一种,还 阅读全文
posted @ 2017-02-16 13:50 无尽的缥缈 阅读(2630) 评论(0) 推荐(0) 编辑
摘要: Hive从0.11版本开始提供了ORC的文件格式,ORC文件不仅仅是一种列式文件存储格式,最重要的是有着很高的压缩比,并且对于MapReduce来说是可切分(Split)的。因此,在Hive中使用ORC作为表的文件存储格式,不仅可以很大程度的节省HDFS存储资源,而且对数据的查询和处理性能有着非常大 阅读全文
posted @ 2017-02-16 13:43 无尽的缥缈 阅读(1007) 评论(0) 推荐(0) 编辑