当前标签：Attention

Scaled Dot-Product Attention 的公式中为什么要除以

\sqrt{d_{k}}

？

赤川鹤鸣 2024-10-22 18:05 阅读:60 评论:0 推荐:0 编辑

公告

昵称：赤川鹤鸣
园龄： 6个月
粉丝： 0
关注： 0

<

2025年3月

>

日

一

二

三

四

五

六

23

24

25

26

27

28

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

1

2

3

4

5

随笔档案

阅读排行榜

推荐排行榜

1. 球坐标下的 Laplace 算子推导(1)