随笔分类 - 机器学习
摘要:调参调吐了。目前做的最好的是 private 1.09 / public 1.04 代码:https://colab.research.google.com/drive/1Rhne-XV8P6u_qSAjKsKA0NyAmbzQWbll?usp=sharing 分析 对代码的一些理解: 这里是构建神
阅读全文
摘要:核心问题:Critical Point 在 Gradient Descent 的时候,如果遇到梯度为 0 的情况,导致无法继续 optimization,这样的点叫做 Critcal Point 如果最后优化的结果不好,则出现这样的点的原因有 2 个:一个是到 local minima 了,另一个是
阅读全文
摘要:回归(Regression) neural network 工作的核心就是:找函数 - 计算参数对应的 loss - 沿着 gradient 的(逆)方向更新参数使 loss 减小 如何计算 gradient?需要用到 back propogation(反向传播)原理 反向传播 首先,loss 值等
阅读全文