摘要:
1.python中的生成器 不可变数据类型。 2.非结构化的数据信息,如何实现高效的信息抽取? 3.拿到的数据是没有标签信息的,应该怎么办? 4.进行一个分类任务,某些数据有缺失值怎么办? 文本为Nan,有标签,①赋值为“缺失”,②统计缺失的类别 数据插补方法? 5.特征值变换到0-1的方法,归一化 阅读全文
摘要:
2.卷积核的个数如何确定? 我终于也想到了这个宝藏问题啊,https://www.zhihu.com/question/38098038 不同卷积核的个数对模型性能有什么影响呢?是要根据具体任务来调试吗?那调试的话有个大体的路子吗? 看了三个回答后基本有了了解。 总结:对于cnn来说,选择的是小而深 阅读全文
摘要:
2. 一个矩阵/一个列表 https://www.csdn.net/gather_23/MtjaIg4sNjMwLWJsb2cO0O0O.html,这个讲的还不错。 import numpy as np a=np.array( [[2, 2, 5, 2], [3, 3, 5, 1], [4, 4, 阅读全文
摘要:
1.双曲正切函数 tanh https://www.jiqizhixin.com/graph/technologies/9e8895bd-d540-43c0-8dc6-dc9e24e6bfd7,这个讲的挺全面的。 https://www.cnblogs.com/charlesblc/p/866073 阅读全文
摘要:
1.模型 上图中输入部分,两层分别表示两个通道,一层是固定的词向量表示,一层是可以微调的词向量; 输入被表示为,➕表示连接操作: 对每个h词块都有如下卷积操作,h应该是卷积步长大小,W表示一个卷积核,针对每个卷积核都会进行以下操作,来产生卷积结果(一系列ci组成c) 经过一个卷积核的卷积操作之后,可 阅读全文
摘要:
2. transformer的一个通用教程 https://towardsdatascience.com/https-medium-com-chaturangarajapakshe-text-classification-with-transformer-models-d370944b50ca 我觉 阅读全文
摘要:
1.run_roberta 与run_bert? 存在疑问的地方是, 跑roberta的话,就不能改一下run_bert.py然后跑起来吗 但是却出现了:pytorch_transformers/modeling_bert.py: 说明维度存在问题。 因为modeling_roberta也使用了mo 阅读全文
摘要:
5-6日———————— 1.linux升级R版本为最新3.6.3 https://blog.csdn.net/m0_37601622/article/details/93135920,根据这个先卸载: 遇到问题: apt: error while loading shared libraries: 阅读全文
摘要:
1.理论 https://zhuanlan.zhihu.com/p/25928551 关键是你要总结住啊。任何技术都有它关键的点,创新点吧或者有效点,这点你要知道你要掌握。 2.论文《Bag of Tricks for Efficient Text Classification》 概览:模型直接学习 阅读全文
摘要:
1.simpletransformer包apex 它这个包默认的是如果使用GPU的话就是fp16精度,所以需要安装apex包,还没有尝试过,既然它这么写肯定是考虑到显卡内存大小, https://github.com/NVIDIA/apex#quick-start,这个给出了步骤 $ git clo 阅读全文