博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2022年2月8日

摘要: 今天学习多继承,遇到了super继承顺序的问题 A是父类,BC继承A,D多继承BC class A: def __init__(self): print("A") class B(A): def __init__(self): print('B') super().__init__() class 阅读全文

posted @ 2022-02-08 15:55 Antel 阅读(421) 评论(0) 推荐(0) 编辑

2021年11月12日

摘要: Masked Autoencoders Are Scalable Vision Learners https://arxiv.org/pdf/2111.06377.pdf 构建自编码器,对mask的图片进行重建 先看效果 左:mask的图片 中:重建的图片 右:ground truth 摘要 这篇文 阅读全文

posted @ 2021-11-12 18:11 Antel 阅读(1334) 评论(1) 推荐(1) 编辑

2021年10月19日

摘要: Attention Is All You Need 模型结构 Encoder Encoder是有N=6层的一个整体。是这6层按顺序走下来的一个整体。 每层有两个子层。分别是多头自注意力和全连接前馈网络。 对于每个子层,先采用残差连接,后采用layer normalization \(LayerNor 阅读全文

posted @ 2021-10-19 13:58 Antel 阅读(144) 评论(0) 推荐(0) 编辑