hyserendipity

2019年10月20日

摘要： checkpoint 文件夹 Tensorflow训练后的模型可以保存checkpoint文件，checkpoint文件是结构与权重分离的四个文件，便于训练。 1）checkpoint 文件保存断点文件列表，可以用来迅速查找最近一次的断点文件； model_checkpoint_path: "mo 阅读全文

posted @ 2019-10-20 11:54 hyserendipity 阅读(151) 评论(0) 推荐(0) 编辑

DL 调参经验

摘要： 2019-10-20 11:45:54 数据侧 1、在数据集很大的情况下，不要立马跑全量数据。可以现在小数据集上进行测试，估算一下运行时间。 2、数据shuffle和augmentation，训练之前需要将数据集进行随机化处理；数据增强往往可以增加模型的鲁棒性，可以尝试一下。 3、数据的清洗过滤非常阅读全文

posted @ 2019-10-20 11:46 hyserendipity 阅读(234) 评论(0) 推荐(0) 编辑

2019年10月19日

RoBERTa

摘要： 2019-10-19 21:46:18 问题描述：谈谈对RoBERTa的理解。问题求解：在XLNet全面超越Bert后没多久，Facebook提出了RoBERTa（a Robustly Optimized BERT Pretraining Approach）。再度在多个任务上达到SOTA。那么它阅读全文

posted @ 2019-10-19 21:48 hyserendipity 阅读(295) 评论(0) 推荐(0) 编辑

2019年10月14日

由最多N个给定数字集组成的数字 Numbers At Most N Given Digit Set

摘要： 2019-10-14 22:21:29 问题描述：问题求解：暴力求解必然会超时，那么就需要考虑数学的方法来降低时间复杂度了。阅读全文

posted @ 2019-10-14 22:23 hyserendipity 阅读(218) 评论(0) 推荐(0) 编辑

动态规划-划分数组的最大和 Split Array Largest Sum

摘要： 2019-10-14 22:13:18 问题描述：问题求解：解法一：动态规划这种数组划分的题目基本都可以使用dp来解决，核心的思路就是先维护低的划分，再在中间找分割点加入新的划分。 public int splitArray(int[] nums, int m) { int n = nums. 阅读全文

posted @ 2019-10-14 22:14 hyserendipity 阅读(485) 评论(0) 推荐(0) 编辑

子序列宽度求和 Sum of Subsequence Widths

摘要： 2019-10-14 17:00:10 问题描述：问题求解：如果暴力求解，时间复杂度是exponational的，因为这里是子序列而不是子数组。显然，直接枚举子序列是不太现实的了，那么可以怎么做呢？切入点有两点： 1）数组的顺序对最后的结果是没有影响的，那么排序后的数组和原来的数组的结果是同样阅读全文

posted @ 2019-10-14 17:23 hyserendipity 阅读(192) 评论(0) 推荐(0) 编辑

Contest 158

摘要： 2019-10-14 15:30:38 总体感受：这次依然很快搞定了前三题，最后一题乍看之下还是比较简单的，但是出奇多的corner case让我非常苦恼，这也让我意识到要想真正征服最后一题，还有一个能力需要培养，就是自己设计case的能力。这也让我想到了当初实习的最后一次面试，xu问的问题题面非阅读全文

posted @ 2019-10-14 15:53 hyserendipity 阅读(114) 评论(0) 推荐(0) 编辑

2019年10月9日

Bert

摘要： 2019-10-09 19:55:26 问题描述：谈谈对Bert的理解。问题求解： 2018年深度学习在NLP领域取得了比较大的突破，最大的新闻当属Google的BERT模型横扫各大比赛的排行榜。 NLP领域到目前为止有三次重大的突破：Word Embedding、Self-Attention机制阅读全文

posted @ 2019-10-09 19:56 hyserendipity 阅读(611) 评论(0) 推荐(0) 编辑

Transformer

摘要： 2019-10-09 19:54:42 问题描述：谈谈对Transformer的理解。问题求解： Transformer 整体架构 Transformer 是典型的Seq2Seq架构的模型，其核心的骨架依然是encoder-decoder两个模块，和传统的S2S问题不同的地方在于Transform 阅读全文

posted @ 2019-10-09 19:55 hyserendipity 阅读(340) 评论(0) 推荐(0) 编辑

2019年10月6日

Contest 157

摘要： 2019-10-06 12:15:28 总体感受：总体难度一般，dfs和dp题花了点时间，最后一题dp有思路，但是实现上不够好。注意点：首先是hard问题的覆盖度依然是很大的问题，其次是要注意审题。dp题需要着重训练。阅读全文

posted @ 2019-10-06 12:18 hyserendipity 阅读(115) 评论(0) 推荐(0) 编辑

公告