摘要： 自然语言处理是典型的序列问题，其底层算法在最近几年迅速发展，比如去年年底发布的BERT在11项自然语言处理任务中表现卓越，今年GPT-2生成文本（写作）的水平也有了显著提高。 目前这些最先进的技术都基于Transformer模型，该模型从RNN，LSTM，Se... 阅读全文

摘要： RNN循环网络在序列问题处理中得到了广泛的应用。但使用标准版本的RNN模型时，常遇到梯度消失gradient vanishing和梯度爆炸gradient explosion问题。 RNN的缺点 RNN的梯度消失和梯度爆炸不同于其它网络，全连接网络和卷积网络每... 阅读全文

摘要： RNN是Recurrent Neural Networks的缩写，即循环神经网络，它常用于解决序列问题。RNN有记忆功能，除了当前输入，还把上下文环境作为预测的依据。它常用于语音识别、翻译等场景之中。 RNN是序列模型的基础，尽管能够直接调用现成的RNN算法，... 阅读全文

摘要： 本篇开始学习搭建真正的神经网络，前一部分讨论深度学习中预处理数据的基本流程；后一部分构建了两种全连接网络，用三种不同方案拟合时序数据；并在例程中详细分析误差函数，优化器，网络调参，以及数据反向求导的过程。 数据预处理 本篇使用航空乘客数据AirPassenge... 阅读全文

摘要： 机器学习需要掌握数据处理工具Pandas、Numpy，同理，深度学习也需要掌握相应的数据处理工具，在Pytorch中数据存储在张量Tensor和变量Variable之中，本篇将介绍它们的基本用法以及与之相关的常用函数。 掌握必要的基础知识，让后期看代码更加流畅... 阅读全文

摘要： 残差网络效果 卷积神经网络CNN的发展历史如图所示： 从起初AlexNet的的8层网络，到ResNet的152层网络，层数逐步增加。当网络层数增加到一定程度之后，错误率反而上升，其原因是层数太多梯度下降变得越发困难。而ResNet解决了这一问题。 目前Res... 阅读全文

摘要： 手机 Honor 6x，界面版本 EMUI 8.0.0 1. 在设置->系统->关于手机，连续按几次"版本号" (注意: 在学生模式下不能使用) 2. 退到上一层，出现“开发人员选项”（与“关于手机”并列） 3. 选中“开发者选项”，选中“仅充电模式下允许AD... 阅读全文

摘要： 想读个英文文档，用讯飞读英文，效果实在是…… 在应用汇下载安装 Google TTS（华为软件商店里没有），软件被安装到系统中，位置在： 设置->智能辅助->无障碍->文字转语言(TTS)输出->Google文字转语音引擎。 就可以正常使用了。 ... 阅读全文

摘要： 什么是Pytorch Facebook的Pytorch和Google 的TensorFlow一样，也是一款深度学习库，TensorFlow主要应用于工业生产领域之中，GitHub上的深度学习工具也多基于TensorFlow；而Pytorch在研究领域被广泛使用... 阅读全文

摘要： 写后台监控程序，有时需要响铃或弹框提示用户。下面介绍Python在Linux系统中的提示方法 ： 1. 使用系统工具paplay播放当前目录下的音效文件ring.wav实现响铃 2. 用tkinter界面工具实现弹框 import tkinter as tki... 阅读全文