摘要:
今天是Task03,包含过拟合、欠拟合及其解决方案;梯度消失、梯度爆炸;循环神经网络进阶课程。 对于过拟合、欠拟合,梯度消失、梯度爆炸的概念和解决方案是在深度学习实践中经常会出现,并且需要我们思考的问题,理论上有很多缓解的办法,但在实际解决中还需要自己的经验。对于循环神经网络进阶,这里介绍了GRU和 阅读全文
摘要:
今天是Task02,包含文本预处理;语言模型和循环神经网络基础课程。 这里讲述了一些文本预处理到普通RNN模型的解决方案,课程中讲的分词,建立字典的方案是较初步的处理,相较于比较复杂的非结构化的数据,特别是文本来说, 预处理的步骤是及其繁琐的,具体可参考 "针对于非结构化的数据(文本类)" 所述。 阅读全文