摘要：
网络编程里常听到阻塞IO、非阻塞IO、同步IO、异步IO等概念，总听别人聊不如自己下来钻研一下。不过，搞清楚这些概念之前，还得先回顾一些基础的概念。 1 基础知识回顾 注意：咱们下面说的都是Linux环境下，跟Windows不一样哈~~~ 1.1 用户空间和内核空间 现在操作系统都采用虚拟寻址，处理 阅读全文
摘要：
1 协程 1.1协程的概念 协程，又称微线程，纤程。英文名Coroutine。一句话说明什么是线程：协程是一种用户态的轻量级线程。（其实并没有说明白~） 我觉得单说协程，比较抽象，如果对线程有一定了解的话，应该就比较好理解了。 那么这么来理解协程比较容易： 线程是系统级别的，它们是由操作系统调度；协 阅读全文
摘要：
1 简介 BERT全称Bidirectional Enoceder Representations from Transformers，即双向的Transformers的Encoder。是谷歌于2018年10月提出的一个语言表示模型（language representation model）。 1 阅读全文
摘要：
psutil,(process and system utilities)，可以通过一两行代码实现系统监控，还可以跨平台使用，支持Linux／UNIX／OSX／Windows等，是系统管理员和运维小伙伴不可或缺的必备模块。 1 安装 1 pip install psutil 2 获取CPU信息 1 阅读全文
摘要：
TensorFlow默认会占用设备上所有的GPU以及每个GPU的所有显存；如果指定了某块GPU,也会默认一次性占用该GPU的所有显存。可以通过以下方式解决： 1 Python代码中设置环境变量，指定GPU 本文所有代码在tensorflow 1.12.0中测试通过。 import os os.env 阅读全文
摘要：
内存是程序运行必不可少的资源，由操作系统分配和管理。作为程序员，我们通常做的只能是申请和归还。本文主要介绍C++内存的申请和释放（归还），以及注意事项。 1 申请和释放内存的运算符 申请 new 释放 delete 2 方法 申请内存: int *p = new int; // 定义一个指针，来接收 阅读全文
摘要：
深度学习广泛应用于各个领域。基于transformer的预训练模型（gpt/bertd等）基本已统治NLP深度学习领域，可见transformer的重要性。本文结合《Attention is all you need》论文与Harvard的代码《Annotated Transformer》深入理解t 阅读全文
摘要：
Dropout是深度学习中的一种防止过拟合手段，在面试中也经常会被问到，因此有必要搞懂其原理。 1 Dropout的运作方式 在神经网络的训练过程中，对于一次迭代中的某一层神经网络，先随机选择中的一些神经元并将其临时隐藏(丢弃)，然后再进行本次训练和优化。在下一次迭代中，继续随机隐藏一些神经元，如此 阅读全文
摘要：
0 前言 本文主要内容：介绍Pointer-Generator-Network在文本摘要任务中的背景，模型架构与原理、在中英文数据集上实战效果与评估，最后得出结论。参考的《Get To The Point: Summarization with Pointer-Generator Networks》 阅读全文
摘要：
深度学习中的优化问题通常指的是：寻找神经网络上的一组参数θ，它能显著地降低代价函数J(θ)。针对此类问题，研究人员提出了多种优化算法，Sebastian Ruder 在《An overview of gradient descent optimizationalgorithms》（链接：https: 阅读全文
摘要：
1 系统环境 搭建的系统环境为centos7.5 。 2 修改主机名 2.1 主机名修改为 hadoop1 。 2.2 查看主机名 2.3 确认是否修改成功 重新登陆后主机名已更改 3 添加hadoop用户 本次用hadoop用户部署，需要添加hadoop用户，密码也设置为hadoop。 登陆 4 阅读全文
摘要：
1 基本概念 集成学习的主要思路是先通过一定的规则生成多个学习器，再采用某种集成策略进行组合，最后综合判断输出最终结果。一般而言，通常所说的集成学习中的多个学习器都是同质的"弱学习器"。基于该弱学习器，通过样本集扰动、输入特征扰动、输出表示扰动、算法参数扰动等方式生成多个学习器，进行集成后获得一个精 阅读全文