2024年4月23日
4.0 - 激活函数
摘要： 1. 激活函数背景 1.1 激活函数作用 全连接层或CNN只是对数据做线性变换，即使添加再多的layer，本质依旧是一个单层神经网络。对此，引入非线性变换，对线性层的输出采用 Pointwise 类型的非线性变换作为下一层的输入，以此解决线性网络表达能力不足的问题。其中的 非线性函数称为 activ 阅读全文
posted @ 2024-04-23 22:17 橘子葡萄火龙果 阅读(11) 评论(0) 推荐(0) 编辑