编写健壮且高性能的网络服务需要付出大量的努力。提高服务性能的方式有很多种,比如优化应用层的代码,更进一步,还可以看看垃圾回收器,操作系统,网络传输,以及部署我们服务的硬件是否有优化空间。
TCP/IP协议栈中的一些算法会影响到服务性能。本文将简单介绍其中的Nagle算法,与Nagle算法相关的socket选项TCP_NODELAY
,以及在Go语言中如何使用它。
理论
大部分平台上的TCP实现都提供了socket选项,用于控制连接生命周期,流量控制等算法。
其中一个会对网络传输性能造成影响的算法是Nagle算法,它在Linux,macOS,Windows平台默认都是打开的。
Nagle算法的做法是:将要发送的小包合并,并延缓发送。延缓后的发送策略是,收到前一个发送出去的包的ACK确认包,或者一定时间后,收集了足够数量的小数据包。
Nagle算法的目的是减少发送小包的数量,从而减小带宽,并提高网络吞吐量,付出的代价是有时会增加服务的延时。(译者yoko注:补充解释一下为什么减少小包的数量可以减小带宽。因为每个TCP包,除了包体中包含的应用层数据外,外层还要套上TCP包头和IP包头。由于应用层要发送的业务数据量是固定的,所以包数量越多,包头占用的带宽也越多)
引入的延时通常在毫秒级别,但是对于延迟敏感的服务来说,减少一些毫秒数的延迟也是值得的。
Nagle算法所对应的TCP socket选项是TCP_NODELAY
。开启TCP_NODELAY
可以禁用Nagle算法。禁用Nagle算法后,数据将尽可能快的被发送出去。
另外,我们也可以在应用层对数据进行缓存合并发送来达到Nagle算法的目的(译者yoko注:在Go语言中即使用bufio.Writer
。个人认为,使用bufio.Writer
还有一个好处,就是减少了调用write系统调用的次数,但是相应的,增加了数据拷贝的开销)。
在Go语言中,TCP_NODELAY
默认是开启的,并且标准库提供了net.SetNodelay(bool)
方法来控制它。
实验
我们通过一个小实验来观察TCP_NODELAY
打开和关闭时底层TCP包的变化。
代码逻辑十分简单,client端连续调用5次conn.Write
函数向server端发送相同的字符串GOPHER
。
服务端代码(server.go):
package main
import (
"bufio"
"fmt"
"log"
"net"
"strings"
)
func main() {
port := ":" + "8000"
// 创建监听
l, err := net.Listen("tcp", port)
if err != nil {
log.Fatal(err)
}
defer l.Close()
for {
// 接收新的连接
c, err := l.Accept()
if err != nil {
log.Println(err)
return
}
// 处理新的连接
go handleConnection(c)
}
}
func handleConnection(c net.Conn) {
fmt.Printf("Serving %s\n", c.RemoteAddr().String())
for {
// 读取数据
netData, err := bufio.NewReader(c).ReadString('\n')
if err != nil {
log.Println(err)
return
}
cdata := strings.TrimSpace(netData)
if cdata == "GOPHER" {
c.Write([]byte("GopherAcademy Advent 2019!"))
}
if cdata == "EXIT" {
break
}
}
c.Close()
}
客户端代码(client.go):
package main
import (
"fmt"
"log"
"net"
)
func main() {
target := "localhost:8000"
raddr, err := net.ResolveTCPAddr("tcp", target)
if err != nil {
log.Fatal(err)
}
// 和服务端建立连接
conn, err := net.DialTCP("tcp", nil, raddr)
if err != nil {
log.Fatal(err)
}
// conn.SetNoDelay(false) // 如果打开这行代码,则禁用TCP_NODELAY,打开Nagle算法
fmt.Println("Sending Gophers down the pipe...")
for i := 0; i < 5; i++ {
// 发送数据
_, err = conn.Write([]byte("GOPHER\n"))
if err != nil {
log.Fatal(err)
}
}
}
为了观察TCP包,首先开启抓包程序tcpdump。为了简单,两个程序都在本机运行。我环境的内网环路网卡为lo0
,不同机器上可能不同:
$sudo tcpdump -X -i lo0 'port 8000'
然后,再打开两个终端窗口,先执行服务端程序,再执行客户端程序:
$go run server.go
$go run client.go
观察抓包结果,我们会发现每次调用write函数发送"GOPHER",对应的都是一个独立的TCP包被发送。总共有5个TCP包。以下是抓包结果,为了简单,我只贴出两个包:
....
14:03:11.057782 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 15:22, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7
0x0000: 4500 003b 0000 4000 4006 0000 7f00 0001 E..;..@.@.......
0x0010: 7f00 0001 e2ae 1f40 80c5 9759 6171 9822 .......@...Yaq."
0x0020: 8018 18eb fe2f 0000 0101 080a 2c5a 8eda ...../......,Z..
0x0030: 2c5a 8eda 474f 5048 4552 0a ,Z..GOPHER.
14:03:11.057787 IP localhost.58030 > localhost.irdmi: Flags [P.], seq 22:29, ack 1, win 6379, options [nop,nop,TS val 744132314 ecr 744132314], length 7
0x0000: 4500 003b 0000 4000 4006 0000 7f00 0001 E..;..@.@.......
0x0010: 7f00 0001 e2ae 1f40 80c5 9760 6171 9822 .......@...`aq."
0x0020: 8018 18eb fe2f 0000 0101 080a 2c5a 8eda ...../......,Z..
0x0030: 2c5a 8eda 474f 5048 4552 0a ,Z..GOPHER.
...
如果我们打开客户端中被注释掉的conn.SetNoDelay(false)
这行代码,也即禁用掉TCP_NODELAY
,开启Nagle算法,再次抓包,结果如下:
14:27:20.120673 IP localhost.64086 > localhost.irdmi: Flags [P.], seq 8:36, ack 1, win 6379, options [nop,nop,TS val 745574362 ecr 745574362], length 28
0x0000: 4500 0050 0000 4000 4006 0000 7f00 0001 E..P..@.@.......
0x0010: 7f00 0001 fa56 1f40 07c9 d46f a115 3444 .....V.@...o..4D
0x0020: 8018 18eb fe44 0000 0101 080a 2c70 8fda .....D......,p..
0x0030: 2c70 8fda 474f 5048 4552 0a47 4f50 4845 ,p..GOPHER.GOPHE
0x0040: 520a 474f 5048 4552 0a47 4f50 4845 520a R.GOPHER.GOPHER.
可以看到,有四个"GOPHER"被合并到了一个TCP包中。
结论
TCP_NODELAY
并不是万能的,有好处有坏处,需要根据实际业务场景决定打开还是关闭。但是,在使用具体语言编写网络服务时,我们需要知道它是否被默认开启。
还有其他一些类似的socket选项,比如TCP_QUICKACK
和TCP_CORK
等。但是由于有些socket选项是平台相关的,因此Go没有提供和TCP_NODELAY
相同的方式来控制这些socket选项。我们可以通过一些平台相关的包来实现这一点。比如说,在类unix系统下,我们可以使用golang.org/x/sys/unix
包中的SetsockoptInt
方法。
举例:
err = unix.SetsockoptInt(fd, unix.IPPROTO_TCP, unix.TCP_QUICKACK, 1)
if err != nil {
return os.NewSyscallError("setsockopt", err)
}
最后,如果你想学习更多和Nagle算法相关的知识,可以看看这篇英文博客
英文原文链接:Control packet flow with TCP_NODELAY in Go
原文链接: https://pengrl.com/p/20191217/
原文出处: yoko blog (https://pengrl.com)
原文作者: yoko (https://github.com/q191201771)
版权声明: 本文欢迎任何形式转载,转载时完整保留本声明信息(包含原文链接、原文出处、原文作者、版权声明)即可。本文后续所有修改都会第一时间在原始地址更新。
本篇文章由一文多发平台ArtiPub自动发布
有疑问加站长微信联系(非本文作者)