08 2020 档案
摘要：任务：使用8个高斯混合模型生成一系列数据，通过GAN学习它的分布，比较学习的分布和真实的分布是否一样。 GAN文字版算法： GAN公式版算法： 在命令行执行如下语句（详细Visdom的使用见https://www.cnblogs.com/cxq1126/p/13285150.html） python
阅读全文
摘要：渣渣本跑不动，以下代码运行在Google Colab上。 语料链接：https://pan.baidu.com/s/1YxGGYmeByuAlRdAVov_ZLg 提取码：tzao neg.txt和pos.txt各5000条酒店评论，每条评论一行。 安装transformers库 !pip inst
阅读全文
摘要：transformers（以前称为pytorch-transformers和pytorch-pretrained-bert）提供用于自然语言理解（NLU）和自然语言生成（NLG）的BERT家族通用结构（BERT，GPT-2，RoBERTa，XLM，DistilBert，XLNet等），包含超过32种
阅读全文
摘要：提前导包： 1 import torch 2 from torch import nn, optim 3 from torch.utils.data import DataLoader 4 from torchvision import transforms, datasets 5 6 import
阅读全文
摘要：1.PCA的理解 一个非监督的机器学习算法（本质：从一个坐标系转变为另外一个坐标系） 主要用于数据的降维，通过降维可以发现更便于人类理解的特征 其他应用：可视化；去噪 Tip：注意主成分分析和线性回归的区别 如何找到让样本间间距最大的轴？ 样本间的间距使用方差表示（方差描述样本整体疏密，方差越大越疏
阅读全文
摘要：Transformer模型（文本分类仅用到Encoder部分）： 1.数据预处理 和上一个博客https://www.cnblogs.com/cxq1126/p/13504437.html中的数据和预处理基本都一致。 1 import numpy as np 2 import torch 3 fro
阅读全文
摘要：语料链接：https://pan.baidu.com/s/1aDIp3Hxw-Xuxcx-lQ_0w9A 提取码：hpg7 trains.txt pos/neg各500条，一共1000条（用于训练模型）dev.txt pos/neg各100条，一共200条（用于调参数）tests.txt pos/n
阅读全文
摘要：语料链接：https://pan.baidu.com/s/1rIv4eWPkornhZj92A8r6oQ 提取码：haor 语料中分为pos.txt和neg.txt，每一行是一个完整的句子，句子之间用空格分开，句子平均长度为20（提前代码计算，设定超参数）。 提前导包： 1 import numpy
阅读全文
摘要：首先实现parser_transitions.py，接着实现parser_model.py，最后运行run.py进行展示。 1.parser_transitions.py 1.1PartialParse类 1 class PartialParse(object): 2 def __init__(se
阅读全文
摘要：导入包： 1 import torch 2 import torch.nn as nn 3 import torch.nn.functional as F 4 import torch.utils.data as tud 5 6 from torch.nn.parameter import Para
阅读全文
摘要：首先实现word2vec.py中的sigmoid函数，和softmax、负采样、skip-gram的损失函数和导数，接着实现sgd.py中的sgd优化器，最后运行run.py进行展示。 1word2vec.py 1.1sigmoid函数 1 def sigmoid(x): 2 """ 3 Compu
阅读全文
摘要：提前导包： 1 import sys 2 assert sys.version_info[0]==3 3 assert sys.version_info[1] >= 5 4 5 from gensim.models import KeyedVectors 6 from gensim.test.uti
阅读全文
