激活函数:Swish: a Self-Gated Activation Function
摘要:
今天看到google brain 关于激活函数在2017年提出了一个新的Swish 激活函数。 叫swish,地址:https://arxiv.org/abs/1710.05941v1 pytorch里是这样的: Swish, which is simply f(x) = x ·sigmoid(x) 阅读全文
posted @ 2019-06-25 17:03 看看完了 阅读(3012) 评论(0) 推荐(0) 编辑