神经网络激活函数(非线性化)的作用(吴恩达)
当神经元输出a = z = ωX+b时，该隐藏层则是线性的
假如该神经网络每一个隐藏层都是线性的，根据叠加定理，整个神经网络都是线性的(可认为可以等效为一层线性层的网络结构)，这样就无法做出非线性的输出。
而非线性层是不满足叠加定理的，即无法进行等效整合，所以需要引入非线性层，即激活函数。
重点：叠加定理的使用条件、非线性输出的需求
当神经元输出a = z = ωX+b时，该隐藏层则是线性的
假如该神经网络每一个隐藏层都是线性的，根据叠加定理，整个神经网络都是线性的(可认为可以等效为一层线性层的网络结构)，这样就无法做出非线性的输出。
而非线性层是不满足叠加定理的，即无法进行等效整合，所以需要引入非线性层，即激活函数。
重点：叠加定理的使用条件、非线性输出的需求
【推荐】国内首个AI IDE，深度理解中文开发场景，立即下载体验Trae
【推荐】编程新体验，更懂你的AI，立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包，你的智能百科全书，全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell：AI 加持，快人一步
· 无需6万激活码！GitHub神秘组织3小时极速复刻Manus，手把手教你使用OpenManus搭建本
· Manus爆火，是硬核还是营销？
· 终于写完轮子一部分：tcp代理 了，记录一下
· 别再用vector＜bool＞了！Google高级工程师：这可能是STL最大的设计失误
· 单元测试从入门到精通