SliveTest可以给Namenode带来很大的压力,用来做极限情况下的压力测试非常合适。吴威大师(给大师拎包一直是我的荣幸)在SliveTest基础上更上一层,设计了多线程的SliveMapper,在多map多线程下压测Namenode,由于使用了上一篇文章中提到的应用MapReduce进行多机联合负载的思想,基本上可以将Namenode的极限性能完全压榨干净。大师制作的这个工具运行起来之后,Namenode就会处于一种假死状态,对其他rpc请求基本上失去响应,模拟出来的并发压力远远超过云梯当前线上的实际最大压力。作为每次云梯新版本上线前的必测工具,检测出的Hadoop性能瓶颈或发现的相关bug无数。(大师的思想有如茫茫大海中的明灯,指引我们前进的方向)
给大师拎包:
DFSIO
DFSIO是一个标准的HDFS的Benchmark工具,位于test包中。功能简单明了,测试的是读和写的性能指标。使用参数如下:
read |
读测试,报告保存在“io_read/part-00000”中。执行该测试之前,需要先做write测试,以便先行在io_data目录下生成供读取的文件。 |
write |
写测试,报告保存在“io_write/part-00000”中。 |
nfFiles |
文件个数,默认为1 |
fileSize |
文件大小,默认为1MB |
resFile |
结果文件名,默认为” TestDFSIO_results.log” |
bufferSize |
设置缓存大小,默认为1000000 |
clean |
清理数据 |
seq |
数据是否有序,默认无序 |