还记得GMP协程调度模型吗?M是线程,G是协程,P是逻辑处理器,线程M只有绑定P之后才能调度并执行协程G。那如果用户协程中执行了系统调用呢?我们都知道执行系统调用会发生用户态到内核态切换,而且系统调用也有可能会阻塞线程M。M阻塞了还怎么调度协程呢?万一所有的线程M都因系统调用阻塞了呢?阻塞期间谁来调度并执行协程呢?还是说就这么阻塞着呢?
## 封装系统调用
  在讲解系统调用实现原理之前,先回顾下GMP协程调度模型,如下图所示。一般P的数目与CPU核数相等,也就是说,对于8核处理器,Go进程会创建8个逻辑处理器P,对应的,也就最多有8个线程M能够绑定P,从而调度并执行用户协程。这样的话,一旦有线程M因系统调用阻塞了,就会少一个调度线程,极端情况下,所有的线程M都被阻塞了,即所有的用户协程短时间内都得不到调度执行。
![2-7-1.png](https://static.golangjob.cn/220930/887c369f296d04210f1b69feb7a31fa3.png)
  这显然是不合理的,如果真是这样,性能怎么保障?那怎么办?既然系统调用有可能会阻塞线程M这一事实无法改变,那么在执行可能阻塞的系统调用之前,释放掉其绑定的P就行了呗,以便其他线程(可以新创建)能重新绑定这个逻辑处理器P,从而不耽误用户协程的调度执行。
  但是,每次执行系统调用,都需要释放绑定的P,启动新的调度线程,效率还是过于低下。毕竟,系统调用只是有可能会阻塞线程M,也有可能很快就返回了。那怎么办?其实只需要进入系统调用之前,标记一下当前线程M正在执行系统调用,同时定时检测,如果系统调用很快返回,那么不需要额外进行任何操作;如果检测到线程M长时间阻塞,那么此时再剥离该线程M与P的绑定关系,并启动新的调度线程也是可以接受的。
  Go语言函数syscall.Syscall/Syscall6封装了底层系统调用,以write系统调用为例,参考文件syscall/zsyscall_linux_amd64.go:
```
//只是参数数目不同
func Syscall(trap, a1, a2, a3 uintptr) (r1, r2 uintptr, err Errno)
func Syscall6(trap, a1, a2, a3, a4, a5, a6 uintptr) (r1, r2 uintptr, err Errno)
//定义linux系统调用write编号
const SYS_WRITE = 1
func write(fd int, p []byte) (n int, err error) {
r0, _, e1 := Syscall(SYS_WRITE, uintptr(fd), uintptr(_p0), uintptr(len(p)))
n = int(r0)
if e1 != 0 {
err = errnoErr(e1)
}
return
}
```
  syscall.Syscall函数在进入系统调用之前,以及系统调用结束,都会执行对应的hook函数,注意这一逻辑直接使用汇编语言实现(参考文件syscall/asm_linux_amd64.s)
```
TEXT ·Syscall(SB),NOSPLIT,$0-56
//进入系统调用前的准备工作
CALL runtime·entersyscall(SB)
//trap就是系统调用编号
MOVQ trap+0(FP), AX // syscall entry
SYSCALL
//系统调用执行完毕后的收尾工作
CALL runtime·exitsyscall(SB)
RET
```
  当然,并不是所有系统调用都有可能阻塞线程,有些系统调用就可以立即返回,不会阻塞线程(如socket,epoll_create等),对于这类系统调用,也就不需要所谓的entersyscall/exitsyscall。这类系统调用封装为syscall.RawSyscall函数,raw即原始的,在进入系统调用以及系统调用结束之后,不需要执行任何hook函数。
```
//只是参数数目不同
func RawSyscall(trap, a1, a2, a3 uintptr) (r1, r2 uintptr, err Errno)
func RawSyscall6(trap, a1, a2, a3, a4, a5, a6 uintptr) (r1, r2 uintptr, err Errno)
```
  最后,我们以fmt.Println函数为例,在函数syscall.Syscall打断点,看一下整个调用过程:
```
0 0x0000000000494a30 in syscall.Syscall
at /go1.12.4/src/syscall/asm_linux_amd64.s:18
1 0x0000000000496e13 in internal/syscall/unix.IsNonblock
at /go1.12.4/src/internal/syscall/unix/nonblocking.go:12
2 0x00000000004979dc in os.NewFile
at /go1.12.4/src/os/file_unix.go:84
3 0x000000000049868a in os.init.ializers
at /go1.12.4/src/os/file.go:59
4 0x0000000000498890 in os.init
at <autogenerated>:1
5 0x00000000004a2a1c in fmt.init
at <autogenerated>:1
6 0x00000000004a2d6d in main.init
at <autogenerated>:1
7 0x000000000042ddab in runtime.main
at /go1.12.4/src/runtime/proc.go:188
8 0x0000000000458a61 in runtime.goexit
at /go1.12.4/src/runtime/asm_amd64.s:1337
```
  至于系统调用封装为Syscall还是RawSyscall,读者可以参考文件syscall/zsyscall_linux_amd64.go
## 系统调用与调度器schedule
  至此我们了解到Go语言对底层系统调用进行了封装,syscall.Syscall函数封装的是执行时间可能比较长(长时间阻塞线程)的系统调用,syscall.RawSyscall封装的是可以立即返回的系统调用。函数syscall.Syscall在进入系统调用之前,以及系统调用结束后,分别执行函数entersyscall/exitsyscall,那么这两个函数到底做了什么呢?另外,我们提到还需要定时检测,检测线程是否长时间阻塞在系统调用,那么由谁来检测,以及如何检测呢?检测到长时间阻塞怎么处理呢?
  我们先简单看看函数entersyscall/exitsyscall的主要逻辑:
```
func entersyscall() {
//保存栈上下文:PC以及SP寄存器
save(pc, sp)
//更改协程状态
casgstatus(_g_, _Grunning, _Gsyscall)
//更改M与P的关系
_g_.m.oldp.set(pp)
pp.m = 0
_g_.m.p = 0
//更改P的状态
atomic.Store(&pp.status, _Psyscall)
}
func exitsyscall() {
//尝试关联M与P
oldp := _g_.m.oldp.ptr()
//1)如果P状态还是_Psyscall,则直接获取该P;2)如果P已经被其他M绑定,尝试从全局sched.pidle队列获取空闲的P
if exitsyscallfast(oldp) {
//获取到P
//syscalltick系统调用计数器,每调度一次加1
_g_.m.p.ptr().syscalltick++
//更改协程状态为运行中
casgstatus(_g_, _Gsyscall, _Grunning)
return
}
//1)协程M休眠,等待被唤醒;2)当有空闲P时,会唤醒该M,并进入调度循环schedule
mcall(exitsyscall0)
}
```
  在执行系统调用之前,entersyscall函数会更改当前执行协程G以及关联P的状态,标记为系统调用中,同时解绑了M与P的关联关系,但是m.oldp字段又存储了P的引用。在系统调用结束之后,exitsyscall首选尝试获取m.oldp,此时该逻辑处理器P可能还是处于_Psyscall状态,那么直接绑定即可;也有可能已经被其他线程M绑定了,那么就只能尝试再去寻找其他空闲状态的P了;最后,如果线程M没有成功绑定P,则只能陷入休眠,等待被唤醒。
  不是说线程M只能查找绑定处于空闲状态的P吗?进入系统调用的时候,P的状态不是_Psyscall吗,为什么又说,还有可能已经被其他线程M绑定呢?这就不得不提检测线程了。想想假如线程M一直由于系统调用而阻塞,难道P就只能一直处于_Psyscall状态,不能被任何M绑定了吗?
  还记得在讲解协作式调度时,提到的sysmon线程吗?就是这个线程定时检测,如果P长时间处于_Psyscall状态,则更改P的状态为_Pidle,同时启动新的线程M:
```
//创建新线程,主函数sysmon
newm(sysmon, nil)
func sysmon() {
delay = 10 * 1000 // up to 10ms
usleep(delay)
for {
//preempt long running G's
retake(nanotime())
}
}
func retake(now int64) uint32 {
//遍历所有的P
for i := 0; i < len(allp); i++ {
if s == _Psyscall {
//如果不等于,说明系统调度已结束
t := int64(_p_.syscalltick)
if !sysretake && int64(pd.syscalltick) != t {
pd.syscalltick = uint32(t)
pd.syscallwhen = now
continue
}
//更改P的状态
if atomic.Cas(&_p_.status, s, _Pidle) {
//启动新的线程M,以执行调度循环schedule
handoffp(_p_)
}
}
}
}
```
  这下逻辑都串起来了,执行系统调用前后的辅助函数entersyscall/exitsyscall用于标记正系统调用;而辅助线程sysmon用于协助检测并处理长时间阻塞的线程M,并标记P为空闲_Pidle,同时启动新的线程M,开启新的调度循环schedule。
## 总结
  至此我们终于弄明白了,syscall.Syscall函数封装的是执行时间可能比较长(长时间阻塞线程)的系统调用,syscall.RawSyscall封装的是可以立即返回的系统调用;辅助线程sysmon用于协助检测并处理长时间阻塞的线程M。
有疑问加站长微信联系(非本文作者))