Golang-调度器原理解析

Golang调度器原理解析

本文主要介绍调度器的由来以及golang调度器为何要如此设计，以及GPM模型解析

一.调度器的由来

1.单进程时代

单进程时代不需要调度器，一切程序都是串行，所以单进程的操作系统会面临这样一个问题：

  • 程序只能串行执行，一个进程阻塞了，其他进程啥事也做不了，只能等待，会造成CPU时间的严重浪费

那么能不能有多个进程一起来执行多个任务呢？
答案是可以的，后来操作系统就有了最早的并发能力：多进程并发
多进程并发：当一个进程阻塞的时候，切换到另外等待执行的进程，尽量将CPU利用起来。

2.多进程/多线程时代

多进程或多线程时代就有了调度器的需求，以多进程为例，其会使用CPU调度器来当某个进程阻塞的时候，调度一个合适的进程给CPU。

这种方式解决了阻塞的问题，但也存在一个问题：

  • 如果进程数量很多，进程的调度会占用CPU很多的时间(进程创建，销毁，切换等)，CPU利用率不高

对比线程，虽然其调度成本会比进程小很多，但实际上多线程程序的开发和设计也比较复杂，而且在当前互联网业务环境下，为每个任务都创建一个线程是不现实的，这会大量的消耗内存(进程占用4G(32位)，而线程大约也要4M)
所以，多线程/多进程时代，会面临这样两个问题

  • 高内存占用
  • 调度的高CPU消耗

但是，其实一个线程可以分为内核态线程和用户态线程，一个用户态线程必须要绑定一个内核态线程，但是CPU并不知道用户态线程的存在，它只知道它运行的是一个内核态线程(Linux的PCB进程控制块)

3.协程时代

我们可以将内核线程依然叫做线程，把用户态线程叫做协程

那么协程和线程就有三种映射关系：

  • N : 1 : N个协程，一个线程
  • 1 : 1 : 一个协程，一个线程
  • N : M : N个协程，M个线程
    下面我们分别讨论一下这三种映射关系的优点和缺点：

N : 1 关系

N个协程绑定一个线程

优点：

  • 协程在用户态即完成切换，不会陷入到内核态，这种切换非常轻量快速

缺点：

  • 无法使用硬件的多核加速
  • 一旦协程阻塞，造成线程阻塞，本进程的其他协程就都无法执行了，根本没有并发能力！

1 : 1 关系

一个协程绑定一个线程

优点：

  • 容易实现，不存在N比1的缺点

缺点：

  • 协程的创建，删除，切换的代价都由CPU完成，代价有点昂贵

M : N 关系

M个协程，N个线程

克服了以上两种模型的缺点，但是实现较为复杂

协程和线程的调度是有区别的，线程是由CPU调度的，是抢占式的，协程是由用户态调度，是协作式的，一个协程让出CPU后，才执行下一个协程

二. goroutine 和 go调度器

1. goroutine

go提供了goroutine。

goroutine来自于协程的概念，让一组可复用的函数运行在一组线程之上，即使有协程被阻塞，该线程的其他协程也可以被runtime调度，转移到其他可运行的线程上，最关键的是，程序员看不到这些底层的细节，这就降低了编程的难度，提供了更容易的并发

goroutine非常的轻量，一个goroutine只占几KB，并且只几KB就足够goroutine运行完，这样就能在有限的内存空间内，支持大量的goroutine，支持更多的并发，虽然一个goroutine的栈只有几KB，但实际是可伸缩的，如果goroutine需要更多的空间，runtime会为goroutine自动分配。

goroutine的特点：

  • 占用内存很小(几KB)
  • 调度更加灵活(由runtime调度)

2. go调度器的演变历史

go目前使用的调度器是2012年重新设计的，因为之前的调度器存在性能问题，我们先来研究一下废弃的调度器，这样才能更好的了解现有的调度器为何如此设计

先行约定一下，我们采用G来表示goroutine，M来表示线程

废弃的调度器仅有一个全局的go协程队列，所以多个M如果要访问此全局的G队列，都需要加锁，锁的粒度会非常的大，极度的影响调度器的性能，所以我们可以总结一下，老调度器的几个缺点：

  • 锁竞争激烈： 每个M要需要加锁访问全局的G队列
  • 延迟和额外的系统负载：比如G中创建新的协程的时候，最好是新建的协程能给当前M，而不是其他M，局部性很差
  • 系统调用(CPU在M之间切换)，导致频繁的系统阻塞和取消阻塞的操作，都增加了系统的开销
    正是基于以上缺点的改进，GPM模型的go调度器，诞生了！

三.GPM模型的Go调度器及其设计思想

在GPM模型的go调度器中，除了M和G，又引进了P

  • G : 协程
  • P : 逻辑处理器，包含了运行goroutine的资源和可运行的G队列
  • M : 内核线程，负责运行G

  • 全局队列：存放等待运行的G
  • P的本地队列：和全局队列类似，存放的也是等待运行的G,但是存放的数量有限，不会超过256个，在G中新建G时，新建的G优先加入P的本地队列，如果队列满了，则把本地队列中一半的G移动到全局队列
  • P列表：所有的P都在程序启动时创建，并保证的数组中，最多有GOMAXPROCS个
  • M：线程想运行G就得获得P，从P的本地队列获取G，P队列为空时，M会尝试从全局队列拿一批G放到P的本地队列，或从其他P的本地队列偷取一般放入自己P的本地队列

goroutine调度器和OS调度器是通过M结合起来的，每个M都代表了一个内核线程，OS调度器负责把内核线程分配到CPU的核上运行

一.go调度器的设计思想：

1.复用线程

避免频繁的创建，销毁线程，而是对线程进行复用

  • work stealing 机制 ：当M绑定的P队列中无可运行的G时，尝试从其他M绑定的P队列中偷取G，而不是销毁M
  • hand off机制 ： 当M进行系统调用而阻塞时，线程释放绑定的P

2.利用并行

GOMAXPROCS设置P的数量，最多有GOMAXPROCS个线程分布在多个CPU上同时运行，GOMAXPROCS同时也限制了并发的程度，比如GOMAXPROCS=核数/2,则最多利用了一半的CPU核进行并行

3.协作调度

在coroutine中要等待一个协程主动让出CPU才执行下一个协程，但是在go中，一个goroutine最多占用CPU 10ms，防止其他的goroutine饿死，这就是goroutine不同于coroutine的一个地方

4.全局G队列

在新的调度器中仍然有全局G队列，但功能已经被弱化了，当M执行work stealing从其他P偷不到G时，它可以从全局G队列获取G

二.启动一个goroutine的调度流程

通过上图，我们可以得到几个结论：

  • 通过go关键字来启动一个goroutine
  • 有两类G的存储队列，一个是P的局部G队列，一个是全局G队列，新建G会保存在P的本地G队列中，如果P的本地G队列满了就会保存在全局的G队列中
  • G只能运行在M中，一个M必须持有一个P，M与P的关系是一比一，M会从P的本地G队列中弹出一个G来执行，如果P的本地队列为空，就会想冲其他的MP组合中偷取G来执行
  • 一个M调度G执行的过程是一个循环机制
  • 当M执行每一个G的时候如果发生了系统调用或阻塞操作，那么这个M会被阻塞，如果当前有一些G在这个MP组合，runtime会吧这个M从P中摘除，然后再创建一个新的M或者寻找一个空闲的M来服务P
  • 当M的系统调用或阻塞操作结束的时候，这个G会尝试获取一个空闲的P，并放入到这个P的本地队列，如果获取不到P，则此M变成休眠状态，加入到空闲M中，然后这个G会被放到全局的G队列中

三.特殊的M0和G0

  • M0：M0是启动程序后编号为0的线程，M0负责执行初始化操作和启动第一个G，M0对应的实例会在全局遍历runtime.m0中
  • G0：每个M都有自己的G0，G0仅负责调度G，不执行其他任何可执行的函数，每启动一个M，都会创建属于此M的G0

四.有关P和M数量的问题

  • P的数量
    • 由启动时环境变量\(GOMAXPROCS***或者***runtime***的***GOMAXPROCS***()决定，这意味着在程序执行的任意时刻都只有***\)GOMAXPROCS个goroutine在同时运行
  • M的数量
    • go语言本身的限制：go程序启动时，会设置M的最大数量，默认10000，但是内核很难支持这么多线程数，所以这个限制可以忽略
    • runtime/debug中serMaxThreads函数，设置M的最大数量
    • 一个M阻塞了，会创建新的M

M和P的数量没有绝对关系，一个M阻塞，P就会去创建或者切换到另外一个M，所以，即使P的默认数量是1，也有可能会创建很多个M出来

五.P和M何时会被创建

  • P何时创建
    • 在确定P的最大数量N之后，runtime会根据这个创建N个P
  • M何时创建
    • 没有足够的M来关联P，并运行其中可运行的G时，比如所有的M都阻塞住了，而P中还有很多待运行的G，就会去寻找空闲的M，没有空闲的M就会去创建新的M

四.总结

Go调度本质是把大量的goroutine分配到少量线程上去执行，并且利用多核并行，实现强大的并发

posted @ 2021-12-31 11:42  西*风  阅读(419)  评论(0)  编辑  收藏  举报