04 2021 档案
摘要：数据增强 自监督 GAN，VAE 对抗训练 https://zhuanlan.zhihu.com/p/91269728 （这个非常好！！！） 二阶段训练 迁移学习 其他 layerNorm可能有用
阅读全文
摘要：https://segmentfault.com/a/1190000037592155
阅读全文
摘要：import torch import torch.nn as nn from sklearn.preprocessing import LabelBinarizer from torch.nn import functional as F # In[4] class TextRNN(nn.Modu
阅读全文
摘要：超级有用！ 从上图的方程可以看出： 1、loss大则梯度更新量也大； 2、不同任务的loss差异大导致模型更新不平衡的本质原因在于梯度大小； 3、通过调整不同任务的loss权重wi可以改善这个问题； 4、直接对不同任务的梯度进行处理也可以改善这个问题； 所以，后续的方法大体分为两类： 1、在权重wi
阅读全文
摘要：https://github.com/hujinsen/pytorch_VAE_CVAE/blob/master/CVAE.ipynb
阅读全文
