10 2022 档案

摘要:小样本利器4. 正则化+数据增强 Mixup Family代码实现这一章我们介绍嵌入模型的增强&正则化方案Mixup和Manifold Mixup,方法朴实无华,效果亲测有效~ 阅读全文
posted @ 2022-10-30 13:54 风雨中的小七 阅读(1435) 评论(0) 推荐(0) 编辑
摘要:Bert不完全手册9. 长文本建模 BigBird & Longformer & Reformer & Performer这一章我们来唠唠如何优化BERT对文本长度的限制,核心是对Transformer计算效率的优化,我们会分别从片段递归,稀疏注意力机制和矩阵降维几个方向,聊聊更高效的Transformer魔改方案 阅读全文
posted @ 2022-10-08 10:36 风雨中的小七 阅读(1686) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示