摘要: RoBERTa模型总结 前言 ​ RoBERTa是在论文《RoBERTa: A Robustly Optimized BERT Pretraining Approach》中被提出的。此方法属于BERT的强化版本,也是BERT模型更为精细的调优版本。RoBERTa主要在 三方面 对之前提出的BERT做 阅读全文
posted @ 2020-02-04 19:48 ffjsls 阅读(8231) 评论(1) 推荐(1) 编辑
摘要: BERT模型总结 前言 ​ BERT是在Google论文《BERT: Pre training of Deep Bidirectional Transformers for Language Understanding》中被提出的,是一个面向NLP的无监督预训练模型,并在多达11个任务上取得了优秀的 阅读全文
posted @ 2020-02-03 20:18 ffjsls 阅读(6142) 评论(0) 推荐(0) 编辑
摘要: 动态规划 动态规划方法心得 ​ 动态规划 是一般的面试、笔试中的高频算法题,熟练掌握必要的。动态规划的中心思想是在解决当前问题时,可以由之前已经计算所得的结果并结合现在的限制条件递推出结果。由于此前的计算结果已经保留下来,所以极大的缩短了时间复杂度。 ​ 解决动态规划问题的关键是找出状态表达式,即如 阅读全文
posted @ 2019-12-30 20:15 ffjsls 阅读(795) 评论(0) 推荐(0) 编辑
摘要: XGBoost原理学习总结 前言 ​ XGBoost是一个上限提别高的机器学习算法,和Adaboost、GBDT等都属于Boosting类集成算法。虽然现在深度学习算法大行其道,但很多数据量往往没有太大,无法支持神经网络,并且如风控等一些业务需要可解释的算法模型,所以XGBoost等一众集成学习算法 阅读全文
posted @ 2019-12-02 21:01 ffjsls 阅读(395) 评论(0) 推荐(1) 编辑
摘要: re模块下的函数 compile(pattern):创建模式对象 search(pattern,string):在字符串中寻找模式 match(pattern,string):在字符串开始处匹配模式 split(pattern,string):根据模式分割字符串,返回列表 findall(patte 阅读全文
posted @ 2019-08-14 08:46 ffjsls 阅读(555) 评论(0) 推荐(0) 编辑
摘要: 树与树算法 树的概念 树 是一种抽象数据类型(ADT)或是实作这种抽象数据类型的数据结构,用来模拟具有树状结构性质的数据集合。它是由n(n =1)个有限节点组成一个具有层次关系的集合。把它叫做“树”是因为它看起来像一棵倒挂的树,也就是说它是根朝上,而叶朝下的。它具有以下的特点: 每个节点有零个或多个 阅读全文
posted @ 2019-07-28 22:07 ffjsls 阅读(601) 评论(0) 推荐(1) 编辑
摘要: 注意力机制(一) 近几年随着计算力和数据量的飞速飙升,深度学习有了自己的用武之地。最近几年,各种顶会的期刊呈指数形式不断飞升,各种网络和方法的创新也层出不穷。除此之外,一些很多年前提出的方法有的也在最新的应用中取得很好的效果。Attention模型在九几年就被提出了,开始被应用在机器视觉等方面,后来被在机器翻译等NLP方向证明用很高的应用价值。最近因为课题需要,学习了Attention... 阅读全文
posted @ 2019-06-15 11:42 ffjsls 阅读(729) 评论(0) 推荐(0) 编辑
摘要: 几种常见的排序算法总结(Python) 排序算法:是一种能将一串数据依照特定顺序进行排序的一种算法。 稳定性:稳定排序算法会让原本有相等键值的记录维持相对次序。也就是如果一个排序算法是稳定的,当有两个相等键值的记录R和S,并且在原本列表中R出现在S之前,在排序列表中R也将是在S之前。 1. 冒泡排序 阅读全文
posted @ 2019-06-11 22:09 ffjsls 阅读(2301) 评论(0) 推荐(0) 编辑
摘要: LeetCode刷题总结-链表 一、链表 链表分为单向链表、单向循环链表和双向链表,一下以单向链表为例实现单向链表的节点实现和单链表的基本操作。 单向链表 单向链表也叫单链表,是链表中最简单的一种形式,它的每个节点包含两个域,一个信息域(元素域)和一个链接域。这个链接指向链表中的下一个节点,而最后一 阅读全文
posted @ 2019-06-11 11:45 ffjsls 阅读(1075) 评论(0) 推荐(0) 编辑
摘要: LeetCode题目总结-滑动窗口法 滑动窗口法:此方法首先建立一个长度为零的窗口,把右侧窗口向右移动,当新的元素与原来窗口中的元素不重复时,把新的元素加入其中,并更新窗口长度;当新的元素与原集合中的元素重复时,把窗口的左侧向右移动,直至原窗口中的元素不含新的元素。 3. 无重复字符的最长子串 阅读全文
posted @ 2019-06-10 21:27 ffjsls 阅读(1455) 评论(0) 推荐(0) 编辑