2022年9月24日
NLP之基于BERT的预测掩码标记和句间关系判断
摘要： BERT @ 程序步骤 设置基本变量值,数据预处理 构建输入样本 在样本集中随机选取a和b两个句子 把ab两个句子合并为1个模型输入句,在句首加入分类符CLS,在ab中间和句末加入分隔符SEP 在模型输入句中随机选取15%单词准备用于mask, 再在这个些选中的单词中,按照论文策略进行mask 把所 阅读全文
posted @ 2022-09-24 17:50 CJK'sBLOG 阅读(118) 评论(0) 推荐(0) 编辑