摘要：
内容是本人通过查阅网上资料和阅读相关书籍以及自己的思考整理的一些东西，其中可能会存在一些不足的地方 1.什么是深度学习（深度学习与深（多）层神经网络）？ 基维百科解释为：一类通过多层非线性变换对高复杂性数据建模算法的合集。（注意深度学习的两个重要特征：多层、非线性）。因为深层神经网络是实现“多层非线 阅读全文
摘要：
以下内容是个人通过查阅网上相关资料总结出的内容 具体说明数据不均衡会带来的问题： 1）在一个二分类问题中，训练集中class 1的样本数比class 2的样本数是60:1。使用逻辑回归进行分类，最后训练出的模型可能会忽略了class 2，即模型可能会将所有的训练样本都分类为class 1。 2）在分 阅读全文
摘要：
对于卷积神经网络的详细介绍和一些总结可以参考以下博文： https://www.cnblogs.com/pinard/p/6483207.html https://blog.csdn.net/guoyunfei20/article/details/78055192 这里记录的是结合网上资料的一些总结 阅读全文
摘要：
主要是对《Attention is all you need》的分析 结合：http://www.cnblogs.com/robert-dlut/p/8638283.html 以及自己的一些东西 先是最基础的单元放缩点积注意力机制 放缩即为在点积注意力机制的基础上只是多除了一个（每个头的维度）起到调 阅读全文
摘要：
主要是阅读以下博文的总结： https://zhuanlan.zhihu.com/p/31547842 https://www.zhihu.com/question/68482809/answer/264632289 https://blog.csdn.net/thriving_fcl/articl 阅读全文
摘要：
目前效果较好的大部分的nlp任务都会应用预训练语言模型的迁移知识，主要是采用两阶段的模型。第一阶段进行预训练，一般是训练一个语言模型。最出名的是BERT,BERT的预训练阶段包括两个任务，一个是Masked Language Model，还有一个是Next Sentence Prediction。通 阅读全文
摘要：
具体查看：https://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000 初始化一个Git仓库，使用git init命令。 添加文件到Git仓库，分两步： 1.使用命令git add <file> 阅读全文
摘要：
三类人 用户主（user：u）：文件的所有者 同组人（group：g）：与文件主同组的用户 其他人（other：o）：除用户主和同组人外的其他所有人 三种权限 读权限(r):指用户对文件或目录的读许可权。若用户对文件不具有读权限，则不能读取或显示文件的内容；若用户对目录不具有读权限，则不能列目录的内 阅读全文
摘要：
通配符 *：表示从它所在位置开始到某个符合条件的结束符之间的任何字符 ?：表示它所在位置上的任何可能的单个字符 []：表示[]中所包含字符的任何一个 特殊键 ctrl+c #停止当前程序执行 ctrl+z #挂起当前进程（使用fg命令可以将其再次回到前台执行） 一个目录文件内至少要有两个文件项：.表 阅读全文
摘要：
目录基本操作命令 列目录内容ls ls [options] [files] #options是可选参数 常用可选参数：-a 所有文件及目录 -A 等同于-a，但是不列出.以及.. -l 长格式显示 -R递归列目录及其子目录 ls -l /tmp #长格式列系统的临时目录 ls -lR /bin #递 阅读全文