2018年8月4日

深度学习的优化算法

摘要: 最优化理论里面 0阶优化算法 1阶优化算法 2阶优化算法 具体定义和缺陷如下:针对深度学习以一阶的优化算法为主为主线 0阶优化算法:该算法仅仅需要因变量的数值,而不需要导数信息。因变量通过最小二乘法的拟合值近似,而约束极小化问题用罚函数转化为无约束问题,极小化过程在近似的罚函数上迭代。直到获得收敛的 阅读全文

posted @ 2018-08-04 22:00 flyingwaters 阅读(526) 评论(0) 推荐(0) 编辑

导航