上一页 1 2 3 4 5 6 ··· 8 下一页
摘要: 本文学习记录一下,文本生成过程,以及过程中如何 选择/采样 下一个生成的词。首先将简单介绍一下文本生成(text generation)的完成过程;然后简单介绍下常用的采样(sampling)方法;最后,将实现并讨论以下三种采样方法(Greedy Sampling、Temperature Samli 阅读全文
posted @ 2021-06-29 16:24 温良Miner 阅读(4555) 评论(1) 推荐(0) 编辑
摘要: 背景 基于前两篇文章数据预处理和数据集构造的过程后,可以开始针对我们的文本摘要任务进行处理了。这里选用的是经典的seq2seq+attention模型,作为我们的baseline,先完成一个跑通吧。后续基于seq2seq进行其他改进。 核心内容  seq2seq模型的理论,此处不再介绍。简 阅读全文
posted @ 2021-06-26 17:30 温良Miner 阅读(936) 评论(0) 推荐(0) 编辑
摘要: 背景 本文承接上一篇数据预处理与词向量训练内容,上文已描述了我们的任务和目标。本篇中,主要记录在训练和预处理后的一些初步的细节处理,如句子长度对齐、oov初步处理、构造后续用与训练与测试的X和y等等。 核心内容 1. 构造X和y 针对本文任务及数据集的特点,对于训练集和测试集来说X是['Questi 阅读全文
posted @ 2021-06-07 21:51 温良Miner 阅读(380) 评论(0) 推荐(0) 编辑
摘要: 0. 背景 Keras是一个高效、易用的深度学习框架,它对theano和tensorflow进行了高级封装,使得我们能仅用几行代码就能实现一个深度学习模型。本篇笔记意在简单了解下keras在搭建深度学习模型时的流程。主要章节如下: 数据加载 定义模型 编译模型 训练模型 评估模型 流程整合 预测 完 阅读全文
posted @ 2021-05-30 15:12 温良Miner 阅读(603) 评论(0) 推荐(0) 编辑
摘要: 背景 本系列以百度大脑某次比赛内容作为学习任务,记录下完成任务过程中设计的知识点以及涉及的相关技术。之所以选择该任务(比赛已经结束),是因为该任务中设计文本摘要、多轮对话等,在自然语言处理中较为核心的问题,因此假装自己在处理该任务,并学习记录下处理该任务设计的知识点。 该任务主题为汽车大师问答摘要与 阅读全文
posted @ 2021-05-28 20:19 温良Miner 阅读(584) 评论(0) 推荐(0) 编辑
摘要: 1. 背景 使用numpy库手动实现一个前向传播过程 使用pytorch搭建一个简单的分类网络,搭配cifar-10数据集,完成的一个简单物体分类模型的搭建、训练、预测和评估。 2. 数据集介绍 cifar-10数据集是图像分类任务中最为基础的数据集之一,它由60000张32像素* 32像素的图片构 阅读全文
posted @ 2021-05-27 23:03 温良Miner 阅读(1059) 评论(0) 推荐(0) 编辑
摘要: 1. 背景 学习某培训平台文本摘要项目第二节课seq2seq的内容,结合课件和自己的理解做一下笔记。本节内容主要讲了两个点:1. text summarization的实现方法,以text rank为例;2. seq2seq模型,包括RNN,LSTM,GRU等内容。特此记录,供自己学习。 2. 案例 阅读全文
posted @ 2021-05-06 15:35 温良Miner 阅读(602) 评论(0) 推荐(0) 编辑
摘要: 1. 背景 跟踪学习某培训平台人工智能课程之自然语言处理课程的内容,做个自己的笔记。 本讲内容老师大概讲了三个点:1.文本摘要的应用场景;2.词嵌入(word embedding)发展的进程 3.实战项目总体结合以及数据集的介绍。 2. 正文 结合老师上课的PPT以及自己的理解,大体做一下总结。 2 阅读全文
posted @ 2021-04-30 23:05 温良Miner 阅读(408) 评论(0) 推荐(0) 编辑
摘要: 1. 背景 跟踪学习某平台人工智能培训课程第二节课的内容,记一下笔记。本节内容主要包括两个小点:动态规划和kmeans两个小知识点,感觉更多的是讲了历史,并没有深入和细节探讨展开讲。 2. 案例 本讲的两个小案例分别是:1.木材售卖最大利益问题。木材不同长度对应了不同的价格,给定一个某长度的木材,如 阅读全文
posted @ 2021-04-29 21:12 温良Miner 阅读(227) 评论(0) 推荐(0) 编辑
摘要: 1. 背景 学习某培训平台核心基础课程第三课(第二课内容后续补上)内容,特此笔记,供加深印象。 本将内容主要有两个模型:线性回归和逻辑归回;应用在波斯顿房价预测的数据集上(sklearn.datasets的load_boston)。首先任务热力图(heatmap)分析各个特征间的相关系数(dataf 阅读全文
posted @ 2021-04-29 13:34 温良Miner 阅读(229) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 ··· 8 下一页
分享到: