AAA建材王师傅

园龄：2年6个月粉丝：4 关注：1

03 2025 档案

DeepSeek MOE 代码实现

摘要：import torch from torch import nn # ExpertNetwork 类：定义每个专家的网络 class ExpertNetwork(nn.Module): def __init__(self, hidden_size, intermediate_size): supe

17

0

0

随笔：28
文章：1
评论：0
阅读：2995

公告

昵称： AAA建材王师傅
园龄： 2年6个月
粉丝： 4
关注： 1

<

2025年3月

>

日

一

二

三

四

五

六

23

24

25

26

27

28

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

1

2

3

4

5

随笔分类

随笔档案

文章分类

RAG(1)

阅读排行榜

推荐排行榜