我们在做网络服务器的时候,通常会很关心网络的带宽和延迟。因为我们的很多协议都是request-reponse协议,延迟决定了最大的QPS,而带宽决定了最大的负荷。 通常我们知道自己的网卡是什么型号,交换机什么型号,主机之间的物理距离是多少,理论上是知道带宽和延迟是多少的。但是现实的情况是,真正的带宽和延迟情况会有很多变数的,比如说网卡驱动,交换机跳数,丢包率,协议栈配置,光实际速度都很大的影响了数值的估算。 所以我们需要找到工具来实际测量下。
网络测量的工具有很多,netperf什么的都很不错。 我这里推荐了qperf,这是RHEL 6发行版里面自带的,所以使用起来很方便,只要简单的:
代码语言:javascript复制yum install qperf
就好。 使用起来也相当简单:
在其中一台机器上运行qperf,不带任何参数就好,这台机器就充当服务器角色:
代码语言:javascript复制$ uname -r
2.6.32-131.21.1.tb477.el6.x86_64
$ qperf
在另外一台机器上运行qperf,测量tcp的带宽和延时,顺便看下双方机器的配置情况:
代码语言:javascript复制$ qperf 10.232.64.yyy tcp_bw tcp_lat conf
tcp_bw:
bw = 118 MB/sec
tcp_lat:
latency = 31.9 us
conf:
loc_node = xxx.sqa.cm4
loc_cpu = 16 Cores: Intel Xeon L5630 @ 2.13GHz
loc_os = Linux 2.6.32-131.21.1.tb477.el6.x86_64
loc_qperf = 0.4.6
rem_node = yyy.sqa.cm4
rem_cpu = 16 Cores: Intel Xeon L5630 @ 2.13GHz
rem_os = Linux 2.6.32-131.21.1.tb477.el6.x86_64
是不是很方便?典型情况下我们的带宽是118M,延迟是32us, 在标准的千M环境下是符合预期的。
当然qperf有很多高级参数,可以设置socket buffer的大小,绑定CPU亲缘性等, 很赞的一个特性是可以通过持续改变某个重要参数的值,来观察临界点.
比如我们可以透过改变消息的大小(msg_size),比如从1个字节到64K,每次倍增的方式,来观察带宽和延迟的变化情况,演示下:
代码语言:javascript复制$ qperf -oo msg_size:1:64K:*2 10.232.64.yyy tcp_bw tcp_lat
tcp_bw:
bw = 2.43 MB/sec
tcp_bw:
bw = 4.69 MB/sec
tcp_bw:
bw = 9.12 MB/sec
tcp_bw:
bw = 18.5 MB/sec
tcp_bw:
bw = 33.1 MB/sec
tcp_bw:
bw = 61.4 MB/sec
tcp_bw:
bw = 114 MB/sec
tcp_bw:
bw = 118 MB/sec
tcp_bw:
bw = 113 MB/sec
tcp_bw:
bw = 114 MB/sec
tcp_bw:
bw = 114 MB/sec
tcp_bw:
bw = 118 MB/sec
tcp_bw:
bw = 117 MB/sec
tcp_bw:
bw = 118 MB/sec
tcp_bw:
bw = 118 MB/sec
tcp_bw:
bw = 117 MB/sec
tcp_bw:
bw = 117 MB/sec
tcp_lat:
latency = 31 us
tcp_lat:
latency = 31.1 us
tcp_lat:
latency = 31.1 us
tcp_lat:
latency = 31.4 us
tcp_lat:
latency = 30.8 us
tcp_lat:
latency = 32.1 us
tcp_lat:
latency = 32.6 us
tcp_lat:
latency = 33.3 us
tcp_lat:
latency = 35.5 us
tcp_lat:
latency = 38.6 us
tcp_lat:
latency = 50.1 us
tcp_lat:
latency = 69.6 us
tcp_lat:
latency = 88 us
tcp_lat:
latency = 128 us
tcp_lat:
latency = 209 us
tcp_lat:
latency = 365 us
tcp_lat:
latency = 650 us
我们可以看到当包的大小达到64字节的时候,带宽就上不去了;包到达1K的时候,延迟有了很大的变化。 这些临界点对我们的服务器编程时候对性能的估计和预期非常有帮助。
qperf除了测量tcp的,还可以测试rdma, udp, sctp等主流网络协议的带宽和延迟,算是个很新的工具,推荐大家使用。
引自:http://blog.yufeng.info/archives/2234
- Previous 设计模式原则总结
- Next 在Mac上体验Erlang