摘要： 一、 什么是激励函数？TF中常用的激励函数有那些？ 激励函数的作用就是将多个线性输入转换为非线性的关系。 常用的激励函数主要有：ReLU、ReLU6、sigmoid、tanh、softsign、ELU等。 二、 任何函数都有梯度吗？如果不是，那么一个函数具有梯度的条件是什么？ 该节点操作不可导 三、 阅读全文