signal-opt

摘要：稀疏贝叶斯学习（SBL）是一种将稀疏性和贝叶斯统计相结合的学习方法，主要应用于信号处理、机器学习中的稀疏表示、特征选择等。 其本质在于通过贝叶斯推理来估计模型参数，使得得到的解既具有稀疏性又能够较好地解释观测数据。相比于传统的稀疏方法（如 \(l_1\) 正则化），SBL不需要预先指定稀疏度参数，而 阅读全文

摘要：贝叶斯优化是一种用于优化目标函数的全局优化方法，其数学理论依赖于贝叶斯推断、高斯过程建模和采集函数的定义与优化.本文主要讨论贝叶斯优化的理论框架. 贝叶斯优化的目标是优化一个黑箱函数 \(f(x)\),即： \[x^* = \arg\min_{x \in \mathcal{X}} f(x), \]其 阅读全文

摘要：在信号处理领域是非常重要的工具，广泛应用于信号的压缩、降噪、特征提取等任务中。本篇对稀疏表示和字典学习进行简要的讨论 在信号处理和数据分析中，很多信号或数据可以在一定的基下表示为稀疏的形式。这种稀疏性意味着信号可以由少数的基向量（或称原子）线性组合得到，从而达到信号压缩、降噪等效果。 传统信号处理方 阅读全文

摘要：ISTA and FISTA 迭代收缩阈值算法（ISTA）和快速迭代收缩阈值算法（FISTA）是处理稀疏信号重建和稀疏回归问题的两种重要算法。这两种算法常用于求解稀疏优化问题，例如解决带 $ l_1 $ 正则化的线性回归问题。本文将介绍这两种算法，从它们的提出背景、理论原理以及逐步改进的方式开始，一 阅读全文

摘要：最小角回归(LARS) 最小角回归（LARS）是一种用于高维数据稀疏回归的算法，由 Bradley Efron 和他的同事在 2004 年提出。本文将对其进行介绍 动机：在统计建模和机器学习中，随着数据维度的增加，传统的回归方法面临许多困难。尤其是当自变量（特征）数量远多于样本数量时（高维数据），标 阅读全文

摘要：稀疏信号重建 | 基追踪 基追踪算法（BP）是一种用于稀疏信号重建的优化方法，在压缩感知（ CS）和稀疏表示领域中具有重要作用。它通过 $ l_1 $ 正则化解决稀疏重建问题，能够在信号稀疏度未知的情况下获得较高的重建精度。本文讲解该算法的提出动机、原理，以及背后的理论相关过程。 基追踪算法的提出动 阅读全文

摘要：正交匹配追踪（OMP）：稀疏信号重建算法 动机：在处理稀疏信号时，每一个观测值其实都像是在给出“线索”，提示信号中最重要的几个分量在哪里。如果能够抓住这些线索，一步步把信号的主要特征找出来，就能在不依赖大量观测数据的情况下重建原始信号。因此，可以设想了一种方法：从残差中找出和当前最相关的方向，每次只 阅读全文

摘要：压缩感知 压缩感知是一种突破传统采样定理的信号处理技术。为了理解压缩感知的革新性，我们首先回顾奈奎斯特-香农采样定理。 奈奎斯特-香农采样定理 奈奎斯特-香农采样定理是信号处理中的一个基础理论，描述了如何从离散的采样点精确地重建连续信号。它指出： 一个带限信号，即其频谱中最高频率为 $ f_{\te 阅读全文