摘要: 1. Hadoop之常见压缩格式以及性能对比 1.压缩的好处和坏处 好处 减少存储磁盘空间 降低IO(网络的IO和磁盘的IO) 加快数据在磁盘和网络中的传输速度,从而提高系统的处理速度 坏处 由于使用数据时,需要先将数据解压,加重CPU负荷。而且压缩的越狠,耗费的时间越多。 2.压缩格式 压缩格式 阅读全文
posted @ 2020-04-21 19:04 吊车尾88 阅读(9054) 评论(0) 推荐(2) 编辑
摘要: 1. sep 和 delimiter的功能都是一样,都是表示csv的切割符,(默认是,)(读写参数) spark.read.option("sep", " ").csv(Seq("jeffy", "katy").toDS()).show() spark.read.option("delimiter" 阅读全文
posted @ 2020-04-21 16:01 吊车尾88 阅读(4030) 评论(0) 推荐(0) 编辑