摘要:
0、对比学习和度量学习 相同点: 1.度量学习和对比学习的思想是一样的,都是去拉近相似的样本,推开不相似的样本。 不同点: 1.对比学习是无监督或者自监督学习方法,而度量学习一般为有监督学习方法 2.对比学习为单正例多负例的形式,因为是无监督,数据是充足的,也就可以找到无穷的负例,但如何构造有效正例 阅读全文
摘要:
输入数据归一化和特征归一化,两者有一定相似性 输入归一化 输入归一化和标准化为什么输入数据需要归一化? 排除量纲影响 避免异常值引起的网络无法收敛或数值问题 激活函数用sigmoid时,避免神经元饱和 零中心可以提高训练效率,少走“之”字(输入全为正时,与第一层相连的权重只能全为正或负) 防止梯度爆 阅读全文