稀疏自编码器一览表
以下是我们在推导sparse autoencoder时使用的符号一览表:
符号 | 含义 |
![]() |
训练样本的输入特征,![]() |
![]() |
输出值/目标值. 这里 ![]() ![]() |
![]() |
第 ![]() |
![]() |
输入为 ![]() ![]() ![]() |
![]() |
连接第 ![]() ![]() ![]() ![]() |
![]() |
第 ![]() ![]() ![]() ![]() ![]() |
![]() |
參数向量. 能够觉得该向量是通过将參数 ![]() |
![]() |
网络中第 ![]() ![]() 另外,因为 |
![]() |
激活函数. 本文中我们使用 ![]() |
![]() |
第 ![]() ![]() ![]() |
![]() |
学习率 |
![]() |
第 ![]() |
![]() |
网络中的层数. 通常 ![]() ![]() |
![]() |
权重衰减系数. |
![]() |
对于一个autoencoder,该符号表示其输出值;亦即输入值 ![]() ![]() |
![]() |
稀疏值,能够用它指定我们所需的稀疏程度 |
![]() |
(sparse autoencoder中)隐藏单元 ![]() |
![]() |
(sparse autoencoder目标函数中)稀疏值惩处项的权重. |