摘要: ……… 阅读全文
posted @ 2024-07-15 22:01 指间的执着 阅读(1) 评论(0) 推荐(0) 编辑
摘要: DDPM为了公式推导简单,定义了前向过程是马尔科夫链,因此使得反向过程也是一个马尔可夫过程,即每个状态都只受前一个状态的影响。所以如果训练的时候有$T$步,后续采样的时候也需要有$T$步,速度很慢。 公式推导如下: 在DDPM中,由贝叶斯公式可知: $p(x_{t-1}|x_{t},x_{0})=\ 阅读全文
posted @ 2024-07-10 20:48 指间的执着 阅读(10) 评论(0) 推荐(0) 编辑
摘要: github: https://github.com/shixiaojia/ddpm.git 基于DDPM介绍的理论,简单实现DDPM生成人脸,代码如下: utils.py import os from torch.utils.data import Dataset from torchvision 阅读全文
posted @ 2024-07-07 15:26 指间的执着 阅读(5) 评论(0) 推荐(0) 编辑
摘要: github:https://github.com/shixiaojia/GAN.git 基于GAN介绍的理论,简单实现GAN生成人脸,代码如下: utils.py import osimport torchimport torchvision.transforms as transformsfro 阅读全文
posted @ 2024-06-30 20:08 指间的执着 阅读(10) 评论(0) 推荐(0) 编辑
摘要: github:https://github.com/shixiaojia/VAE.git 基于VAE介绍的理论,简单实现VAE生成人脸,代码如下: utils.py import os from torch.utils.data import Dataset from torchvision.tra 阅读全文
posted @ 2024-06-30 15:43 指间的执着 阅读(6) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2024-06-23 16:57 指间的执着 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 1、数学基础 1.1 雅可比矩阵Jacobian 雅可比矩阵是一阶偏导数以一定方式排列成的矩阵。 假设: $z=\begin{bmatrix}z_{1}\\z_{2}\end{bmatrix}$, $x=\begin{bmatrix}x_{1}\\x_{2}\end{bmatrix}$ $x=f(z 阅读全文
posted @ 2024-06-23 16:55 指间的执着 阅读(10) 评论(0) 推荐(0) 编辑
摘要: 扩散过程是一个逐渐在数据上加噪的马尔科夫链,直到最终变成一个完全的噪声。而扩散模型就是一个使用变分推断训练的参数化马尔科夫链。如上图所示。学习的是一个reverse process。 前提条件: 1. 马尔可夫性质:当前的状态只与之前一个时刻的状态有关; 2. 前向和反向状态服从高斯分布,而且变化比 阅读全文
posted @ 2024-06-22 18:11 指间的执着 阅读(17) 评论(0) 推荐(0) 编辑
摘要: VIT主要用于分类任务 一、VIT,即纯transformer模型 图1 VIT 架构 VIT模型的架构如图1所示。主要分为三个步骤: 1. 首先将输入的图片分成patches(如16*16的patch),然后将每个patch输入到Embedding层(即Linear Projection of F 阅读全文
posted @ 2023-07-03 22:11 指间的执着 阅读(307) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2023-06-24 19:49 指间的执着 阅读(28) 评论(0) 推荐(0) 编辑