摘要: 第四周 本周学习进度汇报: 实践学习 使用Vision Transformer实现CIFAR-10; 理论学习 迁移学习; 论文学习 收集相关论文并大致浏览(国内); 待完成笔记 基于Transformer模型的人体3D姿态比对算法研究; 待优化代码 VIT实现CIFAR10分类; DensePos 阅读全文
posted @ 2022-12-03 14:43 飀飀 阅读(64) 评论(0) 推荐(0) 编辑
摘要: 第三周 本周学习进度汇报: 理论学习 了解了Transformer在CV方向的应用(Vision Transformer模型); 理论学习 总结损失函数&优化器; 实践学习 基于Vision Transformer模型实现MNIST手写数据集图像分类; 实践学习 基于Vision Transform 阅读全文
posted @ 2022-11-18 17:23 飀飀 阅读(53) 评论(0) 推荐(0) 编辑
摘要: 第二周 本周学习进度汇报: 理论学习 了解学习了Encoder-Decoder架构、Attention模型、Transformer原理; 实践学习 基于Transformer原理实现德语->英语机器翻译小例子; Transformer模型学习笔记; Transformer模型代码实现笔记; Tran 阅读全文
posted @ 2022-11-11 15:39 飀飀 阅读(48) 评论(0) 推荐(0) 编辑
摘要: 第一周 本周学习进度汇报: 理论学习 了解了Attention机制。第一次看Transformer论文看不懂绕了弯路,经过老师提醒便改正方向。参考学习资料有:李宏毅老师机器学习课自注意力机制部分,博客; 计算机视觉与深度学习视频学习至卷积网络部分; Transformer论文(李沐讲解)看完40%部 阅读全文
posted @ 2022-11-04 18:27 飀飀 阅读(39) 评论(0) 推荐(0) 编辑