08 2020 档案

摘要：0、背景 Transformer是2018年谷歌大佬们联手出品的用于替代RNN的模型，单单使用注意力机制，在该文中使用了多头自注意力，仅用线性变换来提取特征信息，能够极大程度提升并行性，且准确性也有大幅提升。 Transformer被提出用于机器翻译领域，但后续在基于Transformer或BERT 阅读全文

摘要：1. 什么是迁移学习 【个人理解】：迁移学习是一种从源领域学习知识并迁移用于目标领域，来提升目标领域任务效果的机器学习技术。 【百度百科】：迁移学习是一种机器学习方法，就是把为任务 A 开发的模型作为初始点，重新使用在为任务 B 开发模型过程中的方法。 数学表示如下图： 借用牛顿的话，迁移学习就是站 阅读全文

摘要：0、引言 BERT（Bidirectional Encoder Representations from Transformers）自从谷歌提出就一直大热。首先，它在自然语言处理（NLP)的11个任务中均有较大程度性能提升;其次，BERT在无监督场景下结合预训练能够最大化地利用文本数据，同时对不同场 阅读全文

摘要：pycharm 在windows环境中导入包的快捷键的 ctrl + 空格， 但通常会和输入法冲突，因此可以修改快捷键方便自动导入 自动导入包配置 进入设置：File → Settings 依下图修改导入模式， 保存但不要退出Settings 修改快捷键设置 依下图进入快捷键设置页面 先删除已有快捷 阅读全文

摘要：背景 由于工作需要，远程连接服务器开发调试（关键是自己用了5年的小本本带不起来- -)，本文记录pycharm pro的远程开发和调试配置过程。（社区版不带远程功能噢） 一、配置远程编译器 进入Deployment-> configuration配置页面 新建远程配置，选SFTP， 输入远程连接名称 阅读全文

摘要：引言 pycharm 专业版可提供远程编译和调试功能，如参考 pycharm pro 配置远程开发、调试编译环境可进行配置 本地编写代码自动保存传递到远端服务器，运行或 分步运行 后返回本地结果，非常方便。 但是在执行脚本读取当前目录下的文件夹下的数据时，却一直报找不到该文件，而实际上不管本地还是远 阅读全文

摘要：零、背景及引言 本文是对Sequence to Sequence Learning with Neural Networks文章阅读后的总结。 在不同的学习任务中，传统深度神经网络（DNN）是表现不错的强力模型，如在图像分类、语音识别领域，但DNN由于不能适应输入输出不固定的情况，导致其不能够用于序 阅读全文