摘要： 众所周知神经网络单元是由线性单元和非线性单元组成的，一般神经网络的计算时线性的，而非线性单元就是我们今天要介绍的--激活函数，不同的激活函数得出的结果也是不同的。他们也各有各的优缺点，虽然激活函数有自己的发展历史，不断的优化，但是如何在众多激活函数中做出选择依然要看我们所实现深度学习实验的效果。 这 阅读全文

摘要： 机器学习的很多领域中存在很多稀疏矩阵，比如用来表示分类数据的独热编码、用于表示文档中词汇频率的计数编码、用于表示词汇中标准化的单词频率得分的TF-IDF编码。 稀疏矩阵 稀疏矩阵：在矩阵中，若数值中为0的元素数目远远多于非0元素的数目，并且非0元素分布没有规律。 稠密矩阵：在矩阵中，若数值中为0的元 阅读全文