Hadoop-HDFS压测】针对HDFS进行读写性能测试

【Hadoop-HDFS压测】针对HDFS进行读写性能测试

1)测试工具
2)写入数据测试
3)读取数据测试
4)清除数据

1)测试工具

Hadoop自身集成的工具包:hadoop-mapreduce-client-jobclient-3.1.1.jar

注意:

1、如果是Apache版本安装的Hadoop默认在lib目录下,如果是CDH版本安装的Hadoop需要自己去对应目录下找。

2、此工具测试需要执行hadoop命令,所以需要在服务器中配置Hadoop环境变量。

3、先执行write命令,再执行read命令。

2)写入数据测试

(1)参数说明

TestDFSIO:测试任务名称
write:写入命令
nrFiles:文件个数
size:单个文件大小
resFile:测试结果文件日志生成的路径,默认为当前目录下

(2)执行命令

hadoop jar /opt/cloudera/parcels/CDH/jars/hadoop-mapreduce-client-jobclient-3.1.1.7.1.8.0-801-tests.jar TestDFSIO -write -nrFiles 10 -size 10MB -resFile /export/servers/result.log

(3)测试结果

Total MBytes processed:总数据量(文件数量×单个文件大小)
Throughput mb/sec:每秒吞吐量
Average IO rate mb/sec:每秒IO速率
Test exec time sec:执行时间

3)读取数据测试

(1)参数说明

TestDFSIO:测试任务名称
write:读取命令
nrFiles:文件个数
size:单个文件大小
resFile:测试结果文件日志生成的路径,默认为当前目录下

(2)执行命令

hadoop jar /opt/cloudera/parcels/CDH/jars/hadoop-mapreduce-client-jobclient-3.1.1.7.1.8.0-801-tests.jar TestDFSIO -read -nrFiles 10 -size 2048MB -resFile /export/servers/result3.log

(3)测试结果

Total MBytes processed:总数据量(文件数量×单个文件大小)
Throughput mb/sec:每秒吞吐量
Average IO rate mb/sec:每秒IO速率
Test exec time sec:执行时间

4)清除数据

(1)参数说明

TestDFSIO:测试任务名称
clean:执行清理命令

(2)执行命令:

hadoop jar /opt/cloudera/parcels/CDH/jars/hadoop-mapreduce-client-jobclient-3.1.1.7.1.8.0-801-tests.jar TestDFSIO -clean
posted @   whiteY  阅读(474)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 没有源码,如何修改代码逻辑?
· DeepSeek R1 简明指南:架构、训练、本地部署及硬件要求
· NetPad:一个.NET开源、跨平台的C#编辑器
· PowerShell开发游戏 · 打蜜蜂
点击右上角即可分享
微信分享提示