上一页 1 ··· 8 9 10 11 12 13 14 15 16 ··· 27 下一页
摘要: 原理:将原始数据集划分为k个子集,将其中一个子集作为验证集,其余k-1个子集作为训练集,如此训练和验证一轮称为一次交叉验证。交叉验证重复k次,每个子集都做一次验证集,得到k个模型,加权平均k个模型的结果作为评估整体模型的依据。 注意点:k越大,不一定效果越好,而且越大的k会加大训练时间;在选择k时, 阅读全文
posted @ 2018-09-27 19:50 下路派出所 阅读(1098) 评论(0) 推荐(0) 编辑
摘要: 二者都是集成学习算法,都是将多个弱学习器组合成强学习器的方法。 1、Bagging (主要关注降低方差) Bagging即套袋法,其算法过程如下: A)从原始样本集中抽取训练集。每轮从原始样本集中使用Bootstraping的方法抽取n个训练样本(在训练集中,有些样本可能被多次抽取到,而有些样本可能 阅读全文
posted @ 2018-09-27 19:44 下路派出所 阅读(1126) 评论(0) 推荐(0) 编辑
摘要: (1)Gaussian 满足mean=0,std=1的高斯分布x∼N(mean,std2) (2)Xavier 满足x∼U(−a,+a)x∼U(−a,+a)的均匀分布, 其中 a = sqrt(3/n) (3)MSRA 满足x∼N(0,σ2)x∼N(0,σ2)的高斯分布,其中σ = sqrt(2/n 阅读全文
posted @ 2018-09-27 17:59 下路派出所 阅读(1972) 评论(0) 推荐(0) 编辑
摘要: 翻译模型也是用了装桶(bucketing)和填充(padding),这两种方法是用于高效地处理不同长度句子的情况。我们首先来弄清楚是怎么一回事。当我们从英语翻译成法语的时候,假设我们的输入英语的长度为L1,输出法语的长度为L2。因为英语句子是作为encoder_inputs而传入的,法语句子作为de 阅读全文
posted @ 2018-09-20 15:53 下路派出所 阅读(3019) 评论(0) 推荐(1) 编辑
摘要: 整体流程与第一篇差不多,只是在encoder和decoder加入了RNN Encoder: 1. ai=xi+li ai=词向量+词在序列中的位置信息(相当于一个权重,[M, 1]) 流程: 先是CNN获取位置信息,然后再加上词向量,然后再通过LSTM 2. 常见的求注意力权重的方法 a. ht-1 阅读全文
posted @ 2018-09-17 15:29 下路派出所 阅读(929) 评论(0) 推荐(0) 编辑
摘要: 流程: 1.文本和摘要全部输入到模型中。 2.训练时,对生成摘要取前C个词,从头开始取,如果生成的摘要不足C,那么不足的地方直接补<s>。 3.训练时,最大化生成的摘要与原摘要的概率,即每个生成的词与原摘要的词进行对比,用损失函数计算梯度,然后下降。 4.预测时,已经具有了权重的模型,会逐词生成N个 阅读全文
posted @ 2018-09-17 11:21 下路派出所 阅读(292) 评论(0) 推荐(0) 编辑
摘要: from traceback import format_exc import phoenixdb as pb class Utils(object): def get_db_conn(self, url): """ this function is able to get database connection :param url:... 阅读全文
posted @ 2018-09-12 17:04 下路派出所 阅读(282) 评论(0) 推荐(0) 编辑
摘要: from traceback import format_exc import pymysql as MySQLdb class MySQLUtils(object): def get_db_conn(self, host, user, password, db, log_instance=None, charset='utf8', port=3306): """ ... 阅读全文
posted @ 2018-09-12 17:03 下路派出所 阅读(227) 评论(0) 推荐(0) 编辑
摘要: 一、N-Gram的原理(这个词出现在句子中出现的概率) N-Gram是基于一个假设:第n个词出现与前n-1个词相关,而与其他任何词不相关。(这也是隐马尔可夫当中的假设。)整个句子出现的概率就等于各个词出现的概率乘积。各个词的概率可以通过语料中统计计算得到。假设句子T是有词序列w1,w2,w3...w 阅读全文
posted @ 2018-09-03 20:38 下路派出所 阅读(235) 评论(0) 推荐(0) 编辑
摘要: 设置定时任务 切换到root用户下 进入 /var/spool/cron vi cheat https://www.cnblogs.com/intval/p/5763929.html设置定时任务 阅读全文
posted @ 2018-09-03 16:35 下路派出所 阅读(143) 评论(0) 推荐(0) 编辑
上一页 1 ··· 8 9 10 11 12 13 14 15 16 ··· 27 下一页