摘要:
1. 粒子群算法简介 + 粒子群算法(particle swarm optimization,PSO) 由Kennedy和Eberhart在1995年提出,属于进化算法的一种,是通过对模拟鸟群扑食行为设计的。 + 基本思想: 从随机解出发,通过迭代寻找最优解,通过适应度来评价解的品质。 + 场景设定 阅读全文
摘要:
1. 使用二次代价函数引起梯度消失的原因 2. 交叉熵代价函数 什么是交叉熵代价函数 解决梯度消失问题的原理 3.总结 这是对自己第一次接触到梯度消失问题的总结。主要是二次代价函数引起的梯度消失的问题,然后使用交叉熵代加函数解决这个问题,对这个过程的原理初步进行了了解。 对于其他问题引起的梯度消失问 阅读全文