MPG模型（调度器）

简介

gpm.png

G

表示 goroutine，每执行一次go f()就创建一个 G，包含要执行的函数和上下文信息。
go的大小：一般为栈上的2KB

P

表示 goroutine 执行所需的资源，最多有 GOMAXPROCS（逻辑CPU数量） 个。
P 的本地队列：同全局队列类似，存放的也是等待运行的G，存的数量有限，不超过256个。新建 G 时，G 优先加入到 P 的本地队列，如果本地队列满了会批量移动部分 G 到全局队列。
P包含goroutine的资源，包括goroutine的一些栈、堆、数据等。
go程序同一时间可并行处理最大任务的数量就是GOMAXPROCS的数量

M

线程想运行任务就得获取 P，从 P 的本地队列获取 G，当 P 的本地队列为空时，M 也会尝试从全局队列或其他 P 的本地队列获取 G。M 运行 G，G 执行之后，M 会从 P 获取下一个 G，不断重复下去。

队列

全局队列（Global Queue）：存放等待运行的 G。
P 的本地队列：同全局队列类似，存放的也是等待运行的 G，存的数量有限，不超过 256 个。新建 G’时，G’优先加入到 P 的本地队列，如果队列满了，则会把本地队列中一半的 G 移动到全局队列。
P 列表：所有的 P 都在程序启动时创建，并保存在数组中，最多有 GOMAXPROCS(可配置) 个。
M列表：当前操作系统分配到的当前Go程序的内核线程数

P和M数量

P的数量：通过环境变量$GOMAXPROCS或者在程序通过runtime.GOMAXPROCS()来设置
M的数量：通过动态来开辟和销毁的GO本身是限定M的最大量10000（）可忽略。可以通过runtime/debug包中SetMaxThreads函数来设置。有一个M堵塞就会创建一个M，如果有M空闲那么就会回收或者睡眠。

P和M创建时机

P 何时创建：在确定了** P 的最大数量 n 后**，运行时系统会根据这个数量创建 n 个 P。
M 何时创建：没有足够的 M 来关联 P 并运行其中的可运行的 G。比如所有的 M 此时都阻塞住了，而 P 中还有很多就绪任务，就会去寻找空闲的 M，而没有空闲的，就会去创建新的 M。

P和M数量对于关系

M:N
P 的数量：
由启动时环境变量 $GOMAXPROCS 或者是由 runtime 的方法 GOMAXPROCS() 决定。这意味着在程序执行的任意时刻都只有 $GOMAXPROCS 个 goroutine 在同时运行。
M 的数量:

  • go 语言本身的限制：go 程序启动时，会设置 M 的最大数量，默认 10000. 但是内核很难支持这么多的线程数，所以这个限制可以忽略。
  • runtime/debug 中的 SetMaxThreads 函数，设置 M 的最大数量
  • 一个 M 阻塞了，会创建新的 M。

M的数量和P的数量没有关系。如果当前的M阻塞，P的goroutine会运行在其他的M上，或者新建一个M。所以可能出现有很多个M，只有1个P的情况。

调度器的设计策略

复用线程：

避免频繁的创建、销毁线程，而是对线程的复用。

work stealing 机制

当本线程无可运行的 G 时，尝试从其他线程绑定的 P 偷取 G，而不是销毁线程。
1、M2无任务执行
image.png
2、M2从M1获取G3来执行
image.png

hand off 机制

当本线程因为 G 进行系统调用阻塞时，线程释放绑定的 P，把 P 转移给其他空闲的线程执行。
1、当G1堵塞时
image.png
2、创建唤醒一个M3将P1和M3绑定
image.png

并行利用

GOMAXPROCS 设置 P 的数量，最多有 GOMAXPROCS 个线程分布在多个 CPU 上同时运行。GOMAXPROCS 也限制了并发的程度，比如 GOMAXPROCS = 核数/2，则最多利用了一半的 CPU 核进行并行。

抢占

在 coroutine 中要等待一个协程主动让出 CPU 才执行下一个协程，在 Go 中，一个 goroutine 最多占用 CPU 10ms，防止其他 goroutine 被饿死，这就是 goroutine 不同于 coroutine 的一个地方。

全局G队列
1、如果别的队列偷不到，会从全局队列里面去拿，因为全局队列涉及到锁操作
image.png

goroutine（协程）

一个goroutine会以一个很小的栈开始其生命周期，一般只需要2KB。

goroutine 是由Go运行时（runtime）负责调度。（区别于操作系统线程由系统内核进行调度）

Go运行时会智能地将 m个goroutine 合理地分配给n个操作系统线程，实现类似m:n的调度机制，不再需要Go开发者自行在代码层面维护一个线程池。（这里后续要插入一个图）

go f()尽力了什么

v2-a9082b3ab006addff05b6c759d6d67f6_r.jpg
1、我们通过 go func () 来创建一个 goroutine；
2、有两个存储 G 的队列，一个是局部调度器 P 的本地队列、一个是全局 G 队列。新创建的 G 会先保存在 P 的本地队列中，如果 P 的本地队列已经满了就会保存在全局的队列中；
3、G 只能运行在 M 中，一个 M 必须持有一个 P，M 与 P 是 1：1 的关系。M 会从 P 的本地队列弹出一个可执行状态的 G 来执行，如果 P 的本地队列为空，就会想其他的 MP 组合偷取一个可执行的 G 来执行；
4、一个 M 调度 G 执行的过程是一个循环机制；
5、当 M 执行某一个 G 时候如果发生了 syscall 或则其余阻塞操作，M 会阻塞，如果当前有一些 G 在执行，runtime 会把这个线程 M 从 P 中摘除 (detach)，然后再创建一个新的操作系统的线程 (如果有空闲的线程可用就复用空闲线程) 来服务于这个 P；
6、当 M 系统调用结束时候，这个 G 会尝试获取一个空闲的 P 执行，并放入到这个 P 的本地队列。如果获取不到 P，那么这个线程 M 变成休眠状态， 加入到空闲线程中，然后这个 G 会被放入全局队列中。
(4) 调度器的生命周期
v2-198fd284837f453b36cd6c486cf0a547_720w.jpg

调度器的生命周期

当GO启动一个进程时，调度器是如何创建和初始化线程、协程，等
image.png

M0

  • 启动程序后编号为0的主线程
  • 在全局变量runtime.m0中，不需要在heap上分配
  • 负责执行初始化操作和启动第一个G
  • 启动第一个G之后,M0和其他M就一样了

G0

  • 每次启动一个M，都会第一个创建的goroutine，就是G0 （就是M中第一个G）
  • GO仅用于负责调度G
  • G0不指向任何可执行的函数
  • 每个M都会有一个自己的G0
  • 在调度或系统调用时会使用M切换到G0，来调度

可视化GMP编程

trace

https://blog.csdn.net/u013474436/article/details/105232768

GMP终端DEBUG

https://zhuanlan.zhihu.com/p/473276871

package main

import (
	"fmt"
	"time"
)

func main() {
	for i := 0; i < 5; i++ {
		time.Sleep(time.Second)
		fmt.Println("test")
	}
}

GOMAXPROCS

参数来确定需要使用多少个 OS 线程来同时执行 Go 代码。默认值是机器上的 CPU 核心数。例如在一个 8 核心的机器上，GOMAXPROCS 默认为 8。

Go1.5版本之前，默认使用的是单核心执行。Go1.5 版本之后，默认使用全部的CPU 逻辑核心数。

runtime.GOMAXPROCS(runtime.NumCPU())查询逻辑CPU数量

eg:设置为2个逻辑CPU

func main() {
	runtime.GOMAXPROCS(2)
	fmt.Println(runtime.GOMAXPROCS(runtime.NumCPU()))
}

涉及优化问题多少合适生产环境不可能把服务器所以给他跑？

 posted on 2023-11-03 15:50  莽夫不是流氓  阅读(28)  评论(0)  编辑  收藏  举报