神经网络 Embedding
神经网络 Embedding
背景知识
Embedding 层理解
作用:
1 高位稀疏 特征向量 到低维稠密特征向量的转换;
2 嵌入层将正整数(下标)转换为具有固定大小的向量;
3 把一个one hot 向量变为一个稠密向量;
Embedding 实质是一种映射, 从语义空间到向量的映射,同时尽可能保持元样本在语义
空间的关系,如:语义接近的两个词汇,在向量空间中的位置也比较接近
应用
在深度学习推荐系统中,Embedding主要三个应用方向:
1、深度学习中作为embedding 层,完成高维稀疏特征向量到低维稠密向量的转换
2、作为预训练的Embedding特征向量, 与其他特征向量链接后一同输入深度学习网络进行训练;
3、通过计算用户和物品的Embedding的相似度,作为推荐系统或计算广告系统的召回层或者
召回方法之一。
Embedding 中使用预训练词向量
参考博客:
https://blog.csdn.net/weixin_42357472/article/details/120886559