摘要：
SoftMax函数： 参考链接：https://zhuanlan.zhihu.com/p/105722023 1 定义： Softmax 的核心在于 soft，而 soft 有软的含义，与之相对的是 hard 硬。很多场景中需要我们找出数组所有元素中值最大的元素，实质上都是求的 hardmax 。下 阅读全文
摘要：
激活函数简单原理及使用： 参考链接： https://zhuanlan.zhihu.com/p/172254089 https://zhuanlan.zhihu.com/p/122267172 目前用到的几个激活函数的发展及简单使用： 1 Sigmoid： Sigmoid 的函数图像如上所示，从图像 阅读全文
摘要：
Backbones（ResNet12/18、WRN、ConvNet） 复现链接：https://github.com/SethDeng/Backbones_In_Embedding 存在的问题： 1、WRN不对劲（准确度很差、训练时间很长） 2、train_acc < test_acc 阅读全文