2023 年 8月 1 日随笔档案 - shiiiilong - 博客园

2023年8月1日

分析transformer模型的参数量、计算量，ZeRO，ZeRO-offload

摘要：分析transformer模型的参数量、计算量，ZeRO，ZeRO-offload 阅读全文

posted @ 2023-08-01 14:37 shiiiilong 阅读(500) 评论(0) 推荐(0) 编辑

公告

昵称： shiiiilong
园龄： 1年11个月
粉丝： 0
关注： 0

<

2025年3月

>

日

一

二

三

四

五

六

23

24

25

26

27

28

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

1

2

3

4

5

随笔档案

阅读排行榜