随笔分类 - 深度学习
摘要：本文是阅读Generating Transferable Adversarial Examples against Vision Transformers做的笔记，重点对产生对抗样本的两阶段方法进行了翻译+理解性标注。
阅读全文
摘要：本文是学习笔记，介绍了Transformer架构，以及Vision Transformer
阅读全文
摘要：本文是我的学习笔记，重点是自注意力机制的思想和实现，也介绍了一般的注意力机制和多头注意力机制。
阅读全文
摘要：本文是我的学习笔记，重点介绍了深度学习中自动微分、反向求导的思想、使用和注意事项。文末给出了一篇讲的极好的文章链接。
阅读全文
摘要：深度学习（二）：CNN & RNN 卷积神经网络 从全连接层到卷积（引入卷积的必要性） 计算机视觉的神经网络架构需要满足两个特性： 平移不变性：神经网络的前面几层应该对相同的图像区域具有相似的反应。 局部性：神经网络的前面几层应该只探索输入图像中的局部区域，而不过度在意图像中相隔较远区域的关系，这就
阅读全文
摘要：深度学习（一）：基础知识 参考书为：https://zh.d2l.ai/chapter_preface/index.html 基础 Python list前加*号的作用：将该list转化为一个个分散的值 enumerate() 函数用于将一个可遍历的数据对象(如列表、元组或字符串)组合为一个索引序列
阅读全文
