摘要: 一、深度学习建模与调试流程 先看训练集上的结果怎么样(有些机器学习模型没必要这么做,比如决策树、KNN、Adaboost 啥的,理论上在训练集上一定能做到完全正确,没啥好检查的) Deep Learning 里面过拟合并不是首要的问题,或者说想要把神经网络训练得好,至少先在训练集上结果非常好,再考虑 阅读全文
posted @ 2019-07-16 17:41 王朝君BITer 阅读(1186) 评论(0) 推荐(1) 编辑
摘要: 前向计算:没啥好说的,一层一层套着算就完事了 y = f( ... f( Wlayer2T f( Wlayer1Tx ) ) ) 反向求导:链式法则 单独看一个神经元的计算,z (就是logit)对 wi 的偏微分等于 xi : 再看多层的情况,z 经过 激活函数得到 a,而 a 在下一层和 w3  阅读全文
posted @ 2019-07-16 17:31 王朝君BITer 阅读(272) 评论(0) 推荐(0) 编辑