摘要：
Softmax softmax可以将经交叉熵损失函数的输出都映射到 0 到 1 间，且各分类累和为 1。符合概率分布。 假设共有 n 个输出 [Z1,...,Zn]，对第 i 个元素 Zi 的softmax的计算公式：Si = ezi / sum(ezn) softmax的反向传播求导过程： 博客园 阅读全文
摘要：
参考博客： https://blog.csdn.net/u011276025/article/details/73826562/ 1. 把Label要转成LongTensor格式 self.y = torch.LongTensor(y) 完整使用代码如下： 1 class ImgDataset(Da 阅读全文
摘要：
人脸表情识别 一、数据集说明 使用的数据集是FER2013 kaggle FER2013 https://www.kaggle.com/c/challenges-in-representation-learning-facial-expression-recognition-challenge/da 阅读全文
摘要：
配国内镜像 pip install -i https://pypi.tuna.tsinghua.edu.cn/simple xxx conda配国内镜像： conda install -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free 阅读全文
摘要：
检查使用的GPU的索引 torch.cuda.is_available() cuda是否可用； torch.cuda.device_count() 返回gpu数量； torch.cuda.get_device_name(0) 返回gpu名字，设备索引默认从0开始； torch.cuda.curren 阅读全文
摘要：
元素初始化时， sess.run(tf.initialize_all_variables()) 会报 module 'tensorflow' has no attribute 'initialize_all_variables' 按网上博客中说的改成global_variables_initiali 阅读全文
摘要：
文本情感分类 实验笔记 本实验为台大李宏毅老师机器学习2020年的HW4【实验说明】【官方实现代码参考】【实现代码】 数据介绍 本次实验数据为twitter上的推文，每个推文会被标注为正面或负面。其中 0 --> 负面，1 --> 正面 实验数据共包括， Labeled training data: 阅读全文
摘要：
Adam optimizer.zero_grad() HMM nlp中CTC损失函数 word2vec怎么判断word embedding的好坏 word embedding时加入 PAD 和 UNK gt.gif in.gif pred.gif 阅读全文
摘要：
Transformer seq2seq model with “self-attention” 知名代表--bert 一般处理seq2seq容易想到RNN，但RNN的问题是不容易被平行化。于是有人提出用CNN。 如下右图所示，每个黄色三角代表一个filter，每次考虑3个词，从左往右依次遍历就可以从 阅读全文
摘要：
Word Embedding学习笔记 在NLP中，对文本的表示方法： bag-of-words：基于one-hot、tf-idf、textrank等 主题模型：LSA（SVD）、pLSA、LDA； 基于词向量的固定表征：word2vec、fastText、GloVe； 基于词向量的动态表征：elmo 阅读全文