摘要: 神经元 激活函数的性质 连续并可导(允许少数点上不可导)的非线性函数。 ​ 可导的激活函数可以直接利用数值优化的方法来学习网络参数。 激活函数及其导函数要尽可能的简单 ​ 有利于提高网络计算效率。 激活函数的导函数的值域要在一个合适的区间内 ​ 不能太大也不能太小,否则会影响训练的效率和稳定性。 单 阅读全文
posted @ 2022-11-07 21:23 孤飞 阅读(432) 评论(0) 推荐(0) 编辑