摘要： 1.python中的生成器 不可变数据类型。 2.非结构化的数据信息，如何实现高效的信息抽取？ 3.拿到的数据是没有标签信息的，应该怎么办？ 4.进行一个分类任务，某些数据有缺失值怎么办？ 文本为Nan，有标签，①赋值为“缺失”，②统计缺失的类别 数据插补方法？ 5.特征值变换到0-1的方法，归一化 阅读全文

摘要： 2.卷积核的个数如何确定？ 我终于也想到了这个宝藏问题啊，https://www.zhihu.com/question/38098038 不同卷积核的个数对模型性能有什么影响呢？是要根据具体任务来调试吗？那调试的话有个大体的路子吗？ 看了三个回答后基本有了了解。 总结：对于cnn来说，选择的是小而深 阅读全文

摘要： 2. 一个矩阵/一个列表 https://www.csdn.net/gather_23/MtjaIg4sNjMwLWJsb2cO0O0O.html，这个讲的还不错。 import numpy as np a=np.array( [[2, 2, 5, 2], [3, 3, 5, 1], [4, 4, 阅读全文

摘要： 1.双曲正切函数 tanh https://www.jiqizhixin.com/graph/technologies/9e8895bd-d540-43c0-8dc6-dc9e24e6bfd7，这个讲的挺全面的。 https://www.cnblogs.com/charlesblc/p/866073 阅读全文

摘要： 1.模型 上图中输入部分，两层分别表示两个通道，一层是固定的词向量表示，一层是可以微调的词向量； 输入被表示为，➕表示连接操作： 对每个h词块都有如下卷积操作，h应该是卷积步长大小，W表示一个卷积核，针对每个卷积核都会进行以下操作，来产生卷积结果（一系列ci组成c） 经过一个卷积核的卷积操作之后，可 阅读全文

摘要： 2. transformer的一个通用教程 https://towardsdatascience.com/https-medium-com-chaturangarajapakshe-text-classification-with-transformer-models-d370944b50ca 我觉 阅读全文

摘要： 1.run_roberta 与run_bert? 存在疑问的地方是， 跑roberta的话，就不能改一下run_bert.py然后跑起来吗 但是却出现了：pytorch_transformers/modeling_bert.py： 说明维度存在问题。 因为modeling_roberta也使用了mo 阅读全文

摘要： 5-6日———————— 1.linux升级R版本为最新3.6.3 https://blog.csdn.net/m0_37601622/article/details/93135920，根据这个先卸载： 遇到问题： apt: error while loading shared libraries: 阅读全文

摘要： 1.理论 https://zhuanlan.zhihu.com/p/25928551 关键是你要总结住啊。任何技术都有它关键的点，创新点吧或者有效点，这点你要知道你要掌握。 2.论文《Bag of Tricks for Efficient Text Classification》 概览：模型直接学习 阅读全文

摘要： 1.simpletransformer包apex 它这个包默认的是如果使用GPU的话就是fp16精度，所以需要安装apex包，还没有尝试过，既然它这么写肯定是考虑到显卡内存大小， https://github.com/NVIDIA/apex#quick-start，这个给出了步骤 $ git clo 阅读全文