摘要:
本周收获 总结一下本周学习内容: 1、《深入浅出Pandas》的第17章:实战案例 17.1 实战思想~ 17.2数据处理案例 :car:博客: Pandas:实战案例(上) 2、《机器学习》第11章:特征选择与稀疏学习 11.1 子集搜索与评价 11.2 低过滤式选择 11.3 包裹式选择 11. 阅读全文
摘要:
1、数值稳定性和模型初始化 深度模型有关数值稳定性的典型问题是衰减(vanishing)和爆炸(explosion)。 1.1衰减和爆炸 当神经网络的层数较多时,模型的数值稳定性容易变差。假设一个层数为$L$的多层感知机的第$l$层$\boldsymbol{H}^{(l)}$的权重参数为$\bold 阅读全文