摘要: NLP目前广泛使用预训练+fine-tuning的套路,而不同任务上做fine-tuning会得到不同的参数集合,在实际应用中就需要存放不同版本的weights,比如使用BERT在四个任务上做fine-tuning,就需要存放4个BERT weights,空间开销非常大,降低可扩展性。 已有解决fi 阅读全文
posted @ 2021-11-07 23:02 0xAC 阅读(619) 评论(0) 推荐(0) 编辑
摘要: 任务: 1 event detection(ED), 输入是文本序列,输出是触发的事件类型,以及触发词。 2 event causality identification (ECI),输入是文本序列+文本中出现的一对事件,识别事件之间是否有因果关系。 3 event argument extract 阅读全文
posted @ 2021-10-30 00:49 0xAC 阅读(1409) 评论(0) 推荐(0) 编辑
摘要: HOROVOD_WITH_TENSORFLOW=1 pip install horovod[tensorflow] 阅读全文
posted @ 2021-10-13 20:11 0xAC 阅读(46) 评论(0) 推荐(0) 编辑
摘要: Integrating Weakly Supervised Word Sense Disambiguation into Neural Machine Translation 一篇关于机器翻译的论文,目的是是将词义信息加到机器翻译模型中,以此缓解机器翻译模型对于多义词翻译不准确的问题。 引入的方法很 阅读全文
posted @ 2020-04-11 19:03 0xAC 阅读(579) 评论(0) 推荐(0) 编辑
摘要: 参考Speech and Language Processing[1] 假设人类的语言是上帝掷骰子生成的, 那这个骰子应该是什么样的呢? 语言模型, 就是从概率的视角, 来描述这个骰子. 具体一点, 给定一句话或者词序列, 语言模型负责给出其出现的概率. 而其中最简单的一种语言模型就是n-gram模 阅读全文
posted @ 2019-05-17 21:07 0xAC 阅读(460) 评论(0) 推荐(0) 编辑
摘要: 猎豹(hr面挂) 笔试+一轮技术面+hr面 笔试: 常规算法题, 逻辑回归公式推导, 反向传播公式推导. 技术面: 1 怼项目. 2 逻辑回归原理. 3 优化算法, onling learning 或者 牛顿法 挑一个说下. 牛顿法公式推导. 拟牛顿方程是啥(这个当时忘了,憋半天没回忆出来) 4 L 阅读全文
posted @ 2019-05-17 11:04 0xAC 阅读(275) 评论(0) 推荐(0) 编辑
摘要: 本文参照"流畅的Python"这本书有关于singledispatch实现函数重载的阐述[1]. 假设我们现在要实现一个函数, 功能是将一个对象转换成html格式的字符串. 怎么重载呢? 你可能会想, 用什么装饰器, Python不是动态类型么, 写成如下这样不就重载了嘛? 这个函数可以接受任意类型 阅读全文
posted @ 2019-05-12 16:41 0xAC 阅读(2410) 评论(0) 推荐(0) 编辑
摘要: 原文 安装python3.6 安装配套python3.6的pip 查看pip关联的python版本 阅读全文
posted @ 2019-03-29 13:37 0xAC 阅读(1562) 评论(0) 推荐(0) 编辑
摘要: 向ubuntu系统中添加新的用户:username 以下是useradd命令的options,用到的选项已经标记为红色 阅读全文
posted @ 2019-03-26 17:47 0xAC 阅读(2263) 评论(0) 推荐(0) 编辑
摘要: 遇见一个很糟心的问题,就是我的浏览器主页被一个叫“桔梗网”的魔鬼霸占了。网上有很多解决办法,这里说一个对我来说好用的。 具体问题描述:点击桌面浏览器快捷方式不会进入桔梗网,但是点击锁定在任务栏的浏览器图标会进入,删掉重新锁定不能解决问题。 解决办法: 右键任务栏上的浏览器图标,显示如下 再右键“Go 阅读全文
posted @ 2018-09-30 09:49 0xAC 阅读(15711) 评论(1) 推荐(1) 编辑