06 2022 档案
摘要：word2vec 详解 传统的word2vec 神经网络将词表中的词语作为输入(一般输入哑编码的单词)，输出一个低维度的向量表示这个词语，然后用反向传播的方法不断优化参数。输出的低维向量是神经网络第一层的输出，这一层通常也称作Embedding Layer。 缺点： 使用的是全连接的方法，造成计算量
阅读全文
摘要：word2vec实战：获取处理中文维基百科（Wikipedia）语料库，训练成word2vec模型，并实现词云的应用 背景 word2vec 谷歌开源项目，主要理论有Tomas Mikolov团队2篇论文组成，下载链接如下： https://arxiv.org/pdf/1301.3781.pdf h
阅读全文
摘要：神经网络 Embedding 背景知识 Embedding 层理解 作用： 1 高位稀疏 特征向量 到低维稠密特征向量的转换； 2 嵌入层将正整数（下标）转换为具有固定大小的向量； 3 把一个one hot 向量变为一个稠密向量； Embedding 实质是一种映射， 从语义空间到向量的映射，同时尽
阅读全文
摘要：Pycharm中设置默认字符编码为utf-8模板 背景知识 在计算机内存中，统一使用Unicode编码，当需要保存到硬盘或者需要传输的时候， 就转换为UTF-8编码。 用记事本编辑的时候，从文件读取的UTF-8字符被转换为Unicode字符到内存里， 编辑完成后，保存的时候再把Unicode转换为U
阅读全文
