摘要：
1.激活函数 ReLU LeakyReLU Tanh ... "手册" 2.手写 3.使用pytorch简洁实现 阅读全文
摘要：
1.softmax $$ softmax(x_i) = \frac{ \exp(x_i)}{\sum_{j} \exp(x_j)} $$ 2.cross entropy $$ H\left(\boldsymbol y^{(i)}, \boldsymbol {\hat y}^{(i)}\right ) 阅读全文