作用1:降维:因为使用独热编码虽然计算简单,但是占用太多不必要的资源,所以使用嵌入层(embedding)进行降维,和1*1卷积有异曲同工之妙。
因为有时候图片降维后的特征只能笼统的模糊的显示出图像的主要特征,当我们需要发现图片中的一些细节时,就需要对图片进行升维。
独热向量,每句话之间都是独立的,每句话之间关联为0,而embedding让每个向量之间有了关联,实质上是建立一个查表,通过矩阵相乘,线性变换的方式,让输入的x通过查表将一个稀疏矩阵变成一个稠密矩阵。

|
|||||||||
日 | 一 | 二 | 三 | 四 | 五 | 六 | |||
---|---|---|---|---|---|---|---|---|---|
23 | 24 | 25 | 26 | 27 | 28 | 1 | |||
2 | 3 | 4 | 5 | 6 | 7 | 8 | |||
9 | 10 | 11 | 12 | 13 | 14 | 15 | |||
16 | 17 | 18 | 19 | 20 | 21 | 22 | |||
23 | 24 | 25 | 26 | 27 | 28 | 29 | |||
30 | 31 | 1 | 2 | 3 | 4 | 5 |
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· winform 绘制太阳,地球,月球 运作规律
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
· 上周热点回顾(3.3-3.9)
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· AI 智能体引爆开源社区「GitHub 热点速览」