开始新对话

未解决

此帖子已超过 5 年

1546

2013年11月24日 17:00

存储带宽测试的疑问

各位老大,在项目实施中遇到一个问题,不是EMC的存储,但是想借这里咨询一下,不好意思!

环境:一台双控的ISCSI存储。一台dell服务器通过板载的两个千兆网口,分别连接到两个控制器的iscsi端口。服务器的OS是windows2008 r2

使用windows自带的iscsi发起程序

12块3TB SATA盘,做成一个RAID5,并创建一个LUN map给服务器,作为G盘

现象:摄像头通过网络,经过服务器写入存储,出现丢帧现象。通过IOMeter测试,100%的顺序读操作,带宽可以达到70MB/s左右,但是100%的顺序写操作,带宽只有5MB/s左右。

无标题1.png

无标题2.png

我又测试从本地的D盘拷贝大文件到G盘,带宽可以达到110MB/S左右。

抛开硬件配置方面的配置,有几个问题想咨询一下

问题1:测试结果正常吗?如果不正常,能否帮忙分析一下原因?是不是IOMeter使用不当导致的?

问题2:文件拷贝测试为什么与IOMeter的测试结果相差这么大?文件拷贝测试的结果可信吗?

问题3:在IOMeter的读测试时,网卡的负载在90%左右,但是在写测试时,网卡的利用率不超过5%,这个是否有影响?

再次感谢!

下图是我用IOMeter测试时参数,不知道有没有问题

QQ截图20131125091621.png

2 Intern

 • 

4K 消息

2013年11月24日 19:00

存储端有没有性能数据可以参考的?主要是存储控制器上缓存的利用率情况。如果缓存利用率还没有满,但写入带宽已经到头了,看看是不是写缓存未启用。

2 Intern

 • 

2.1K 消息

2013年11月24日 19:00

问题1:测试结果正常吗?如果不正常,能否帮忙分析一下原因?是不是IOMeter使用不当导致的?

RAID5的读是好过写,因为你是三个盘,所以119的IOPS应该是到头了,因为RAID5的写惩罚有4,所以到磁盘里面已经是超过400了,你12个SATA盘的理论值估计也就200多点,然后iscsi再损失点,所以你到64KB×119大概6,7MB/s这样就上不去了。还要看你存储缓存是怎么工作的,是回写还是写透,也有讲究。所以建议你多开几个Worker,并行测试,看看最大能到多少,估计还是能增加的。

读有71多,IOPS 1000多,而且你Response Time也很快。估计是你存储缓存起的作用,你IOMeter跑了多久?估计时间长以后数字会下来一些的。

问题2:文件拷贝测试为什么与IOMeter的测试结果相差这么大?文件拷贝测试的结果可信吗?

拷贝文件会用到文件系统buffer,性能不能完全相信。

问题3:在IOMeter的读测试时,网卡的负载在90%左右,但是在写测试时,网卡的利用率不超过5%,这个是否有影响?

还是第一个问题的原因,IOPS到头了。关于IOPS和Thoughput的关系,你可以看看我之前写的文章:论存储IOPS和Throughput吞吐量之间的关系

2 Intern

 • 

1.4K 消息

2013年11月24日 20:00

存储这边楼上谈了很多,我就不聊了。我对摄像头写后端存储的iSCSI流量比较感兴趣,可以的话就在Dell Server上抓个network trace,覆盖摄像头写入的过程,然后贴过来我帮你看看。

找不到事件!

Top