摘要:
http://dataju.cn/Dataju/web/home http://archive.ics.uci.edu/ml/datasets 阅读全文
摘要:
直接看代码: 一、tensorflow #tensorflow import tensorflow as tf import random import numpy as np x_data = np.random.randn(100).astype(np.float32) y_data = x_d 阅读全文
摘要:
接下来我们继续对官方基于bert的模型进行扩展,之前的可参考: 基于bert命名实体识别(一)数据处理 命名实体识别数据预处理 命名实体识别之创建训练数据 命名实体识别之使用tensorflow的bert模型进行微调 命名实体识别之动态融合不同bert层的特征(基于tensorflow) 直接看代码 阅读全文
摘要:
num_labels = self.config.relation_num bert_config_file = self.config.bert_config_file bert_config = BertConfig.from_json_file(bert_config_file) model 阅读全文
摘要:
我们知道tensorflow的官方bert模型里面包含了很多内容,在进行微调时有许多部分都是我们用不到的,我们需要截取一些用到的部分,使得我们能够更容易进行扩展,接下来本文将进行一一讲解。 1、需要的文件 tokenization.py:用于对数据进行处理,主要是分词用; modeling.py:b 阅读全文
摘要:
其框架结构如下所示: 可分为四 个部分: 词嵌入部分 输入 隐含层 输出层 我们要明确任务是通过一个文本序列(分词后的序列)去预测下一个字出现的概率,tensorflow代码如下: 参考:https://github.com/pjlintw/NNLM/blob/master/src/nnlm.py 阅读全文
摘要:
背景:从提供的金融文本中识别出未出现的未知金融实体 一、简单的熟悉数据 使用数据: import pandas as pd # 原始数据集 train_df = pd.read_csv('./train.csv', encoding='utf-8') test_df = pd.read_csv('. 阅读全文
摘要:
多头注意力可以用以下一张图描述: 1、使用pytorch自带的库的实现 torch.nn.MultiheadAttention(embed_dim, num_heads, dropout=0.0, bias=True, add_bias_kv=False, add_zero_attn=False, 阅读全文
摘要:
github地址:https://github.com/taishan1994/tensorflow-bilstm-crf 1、熟悉数据 msra数据集总共有三个文件: train.txt:部分数据 当/o 希望工程/o 救助/o 的/o 百万/o 儿童/o 成长/o 起来/o ,/o 科教/o 兴 阅读全文
摘要:
pre = "0 0 B_SONG I_SONG I_SONG 0 B_SONG I_SONG I_SONG 0 0 B_SINGER I_SINGER I_SINGER 0 O O O B_ALBUM I_ALBUM I_ALBUM O O B_TAG I_TAG I_TAG O" true = 阅读全文