随笔分类 - 扩散模型
生成式深度学习模型
摘要：在深度学习中，尤其是涉及生成模型（如变分自编码器 VAE）时，我们常常遇到从正态分布中采样的问题。然而，采样操作本质上是随机的，这使得直接从分布中采样是不可微的，这与优化过程中通过梯度反向传播来更新模型参数的需求相冲突。那么，为什么正态分布采样操作是不可微的？重参数化技巧如何解决这一问题？本文将带你
阅读全文
摘要：扩散模型（Diffusion Models）中的后验分布通常涉及对潜在变量的条件分布进行推导。以下是推导扩散模型中后验分布方差的详细步骤。我们假设扩散过程是逐步添加噪声的过程，每一步根据高斯分布进行采样。扩散模型基于概率扩散过程，它将数据从原始分布逐步转换为噪声分布，然后再通过逆向过程从噪声恢复出原
阅读全文
摘要：在现代生成模型中，扩散模型（Diffusion Models, DM） 已经成为一种非常强大的方法。它的基本思路是通过逐步向数据中注入噪声，使得数据逐渐变为高斯噪声分布。而在生成任务中，扩散模型通过反向扩散过程，从高斯噪声中逐步去除噪声，恢复原始数据。本文将详细介绍扩散模型的去噪过程、反向转移核的定
阅读全文
摘要：在机器学习领域，扩散模型（Diffusion Models, DM） 是近年来非常热门的生成模型之一。其背后的核心思想是通过逐步向数据中注入噪声，使得数据从原始的有序状态转变为完全无序的状态（通常为标准高斯分布）。这一过程为后续的反向扩散过程（去噪）提供了基础，帮助模型从噪声中恢复出原始数据。 本文
阅读全文
