摘要: 激活函数就是非线性函数,常用于非线性模型,特别是神经网络; 非线性函数用于构建非线性决策边界,多个非线性函数的组合能够构建复杂的决策面; 本文旨在总结这些函数,并进行对比分析 阶跃函数 最早的激活函数,图如下 缺点:不连续,且局部导数为 0,无法反向传播 它只用在 感知器 上 sigmoid 它是用 阅读全文