08 2023 档案
摘要：### 提示学习 **Prompt learning**也被称为阅读理解提示学习（Prompted Reading Comprehension）是一种强化学习技术，用于训练语言模型在给定一个提示（prompt）的情况下生成合适的回答或补全文本。在基于提示学习中，模型会根据给定的提示文本，生成应答或者
阅读全文
摘要：### lr_scheduler的选择 学习率在训练过程起到很重要的作用，这段时间里最常用的两个： - 循环学习率调度器 循环学习率调度器主要基于一个基本的观点：将训练过程中的学习率从较低的初始值逐渐增加，然后再逐渐减小到较小的终止值。这个过程有助于模型更快地收敛，并且可以降低模型过拟合的风险。同时
阅读全文
摘要：## 在Hugging Face提供的transformers库中，BERT模型相关的类有很多，以下是一些常用的BERT模型类： 1. BertModel: BERT模型的基本类，用于获取BERT模型的隐藏状态。 2. BertForPreTraining: 用于预训练任务，包括Masked Lan
阅读全文
摘要：### CSV文件 CSV（Comma-Separated Values）是一种常见的文本文件格式，用于存储结构化的数据。CSV文件中的数据是以逗号（或其他指定的分隔符）分隔的文本行，每一行表示一条记录，每个字段表示记录中的一个属性或值。 ### 读CSV ``` import csv import
阅读全文
摘要：### 仓库初始化与克隆 - git init：在当前目录初始化一个新的 Git 仓库。 - git clone ：克隆远程仓库到本地。 ### 基本操作： - git add ：将文件添加到暂存区。 - git commit -m ""：将暂存区的文件提交到仓库并添加提交信息。 - git sta
阅读全文
摘要：## 多标签的向量表示 ``` from sklearn.preprocessing import MultiLabelBinarizer ``` - 只有数据，未知全部标签，需要统计 ``` mlb = MultiLabelBinarizer() labellist = [('红'),('绿色')
阅读全文
