摘要: Summary 目录Summary标准序列推荐模型其他推荐模型FPMCDNN(Pooling)GRU4Rec(RNN-based)GRU4Rec+(RNN-based)Caser(CNN-based)SASRec(Transformer-based)DIN(Transformer-based)BER 阅读全文
posted @ 2024-11-10 20:31 Brain404 阅读(38) 评论(0) 推荐(0) 编辑
摘要: 【神经网络组件】Transformer Encoder 目录【神经网络组件】Transformer Encoder1. seq2seq模型2. 为什么只需要Transformer Encoder3. Transformer Encoder的结构 1. seq2seq模型 什么是sequence:se 阅读全文
posted @ 2024-11-10 20:23 Brain404 阅读(11) 评论(0) 推荐(0) 编辑
摘要: 【论文精读】BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 【论文精读】BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 作者: Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanov 阅读全文
posted @ 2024-11-07 15:02 Brain404 阅读(102) 评论(0) 推荐(0) 编辑
摘要: 【论文精读】On the Relationship Between Self-Attention and Convolutional Layers 作者: Jean-Baptiste Cordonnier, Andreas Loukas, Martin Jaggi 发表会议: ICLR 2020 论 阅读全文
posted @ 2024-10-29 11:08 Brain404 阅读(33) 评论(0) 推荐(0) 编辑
摘要: 目录1. 引入self-attention2. self-attention3. self-attention的并行计算4. 多头self-attention5. 位置编码,self-attention的扩展知识 attention层最早由Google提出,用在了Transformer中。如今,at 阅读全文
posted @ 2024-10-28 21:25 Brain404 阅读(5) 评论(0) 推荐(0) 编辑
摘要: 目录1. 可变对象和不可变对象1.1 “对象的值可以改变”是什么意思?1.2 “对象的值不能改变”是什么意思?1.3 总结2. 用=赋值有什么问题3. copy模块登场4. 重新认识列表对象5. 浅拷贝,深拷贝5.1 浅拷贝(copy.copy())浅拷贝的原理浅拷贝举例5.2 浅拷贝后,修改z中不 阅读全文
posted @ 2024-10-21 11:31 Brain404 阅读(92) 评论(0) 推荐(0) 编辑
摘要: 测试过程也叫采样过程,是从噪音\(\mathbf{x}_T\)中逐步去噪,最终生成图片的过程 文章内容主要参考了李宏毅老师的课程 目录1. 扩散模型的测试过程测试过程第1步测试过程第3步测试过程第4步2. 总结 1. 扩散模型的测试过程 在论文中,扩散模型的测试过程如下 测试过程第1步 生成噪音\( 阅读全文
posted @ 2024-10-19 11:40 Brain404 阅读(67) 评论(0) 推荐(0) 编辑
摘要: 高能预警:这篇文章难度很大,包含很多的数学推导,如果不想接触太多的数学内容,那么可以跳过不看。 看这篇文章之前,你需要了解:什么是马尔科夫链,什么是极大似然估计,什么是KL散度,两个正态分布的KL散度,什么是贝叶斯公式 以下内容参考了主要参考了博客What are Diffusion Models? 阅读全文
posted @ 2024-10-19 11:13 Brain404 阅读(104) 评论(0) 推荐(0) 编辑
摘要: 目录1. 基本用法2. 一个测试函数中可以包含多个断言3. assertTrue断言和assertRaises断言4. 例子5. 为什么不用print而用unittest 1. 基本用法 假设有一个函数add def add(x, y): return x + y 如果我们想要测试这个函数的正确性, 阅读全文
posted @ 2024-10-18 10:08 Brain404 阅读(6) 评论(0) 推荐(0) 编辑
摘要: 扩散模型的训练过程 阅读全文
posted @ 2024-10-17 12:09 Brain404 阅读(193) 评论(0) 推荐(0) 编辑