Pytorch GRU/LSTM 权重参数初始化
摘要：
pytorch模型训练表现不佳, 很有可能是参数初始化的问题 GRU weights采用正交初始化, bias采用0初始化 self.gru = nn.GRU(10, 20, 2, dropout=0.2, bidirectional=True) # use orthogonal init for 阅读全文
posted @ 2020-09-24 14:29 那抹阳光1994 阅读(9136) 评论(0) 推荐(0) 编辑
