08 2022 档案
摘要:方法参考:python - 降低python for循环的时间复杂度 - 堆栈内存溢出 (stackoom.com) 朋友们,朋友们,事情是这样的。 这几天博主在处理数据的时候遇到了这样的标注数据: 文章编号 内容 是否是摘要 1 A1 我 0 2 A1 是xx 1 .... ...... ....
阅读全文
摘要:1.前言 最近尝试学习使用argparse进行参数管理,顺便改善一下我那丝毫都不专业的、简单粗暴的代码习惯。 argparse模块可以让人轻松地编写用户友好地命令行接口,并且还能够自动生成帮助与使用手册,并在用户给程序传入无效参数时报出错误信息。 2.使用步骤 首先我们需要先实例化一个Argumen
阅读全文
摘要:1.介绍 Albert是Bert的一个变种,它在Bert的基础上减少了参数量,使整个模型更加的“轻量化”,同时也保持了Bert的性能,但值得注意的是,Albert虽然显著地减少了参数量,但并没有显著地减少计算时间复杂度,换言之,Albert的预测速度不一定比普通的更快,甚至可能会减慢训练的速度。(A
阅读全文
摘要:1.Longformer的应用场景 为了理解Longformer的原理,我们最好首先从为何需要使用Longformer开始说起。(这里默认各位已经对Self Attention等基础知识有一定的了解) 我们以一个简单的场景为例: 在这个例子中,我们共有六个Token,每个Token的维度是768维,
阅读全文