摘要: Interspeech 2014 Learning Small-Size DNN with Output-Distribution-Based Criteria 简述 为了减小离线模型(比如用于嵌入式设备)的大小,可以减小每个隐层的节点数或者减小输出层的目标节点数。 减小每个隐层的节点数 教师模型(L)与学生模型(S)之间的KL散度为: 训练流程为: 使用带... 阅读全文
posted @ 2019-05-30 16:49 JarvanWang 阅读(476) 评论(0) 推荐(0) 编辑
摘要: ICASSP 2019 SLP-P11.11 IMPROVING NOISE ROBUSTNESS OF AUTOMATIC SPEECH RECOGNITION VIA PARALLEL DATA AND TEACHER-STUDENT LEARNING 简述 Teacher模型对三音素的离散概率分布用于指导Student模型。由于一般的ASR系统包含数千个三音素,处理一帧将计算数千的... 阅读全文
posted @ 2019-05-30 16:42 JarvanWang 阅读(507) 评论(0) 推荐(0) 编辑
摘要: ICASSP 2019 SLP-P17.3: ATTENTIVE ADVERSARIAL LEARNING FOR DOMAIN-INVARIANT TRAINING(针对领域不变训练的注意力对抗学习) 简介 基于注意力机制的领域不变对抗性训练,用于抑制说话人变量与环境变量,以实现鲁棒ASR。 基于对抗的领域不变性训练(Adversarial Domain-Invarian... 阅读全文
posted @ 2019-05-30 16:36 JarvanWang 阅读(780) 评论(0) 推荐(0) 编辑