4-8 内容代价函数
内容代价函数(Content cost function)
风格迁移网络的代价函数有一个内容代价部分,还有一个风格代价部分。
$J(G) = \alpha {J_{content}}(C,G) + \beta {J_{style}}(S,G)$
假如说,你用隐含层l来计算内容代价,如果l是个很小的数,比如用隐含层 1,这个代函数就会使你的生成图片像素上非常接近你的内容图片。然而如果你用很深的层,那么那会问,内容图片里是否有狗,然后它就会确保生成图片里有一个狗。所以在实际中,这个l层在网络中既不会选的太浅也不会选的太深。
现在你需要衡量假如有一个内容图片和一个生成图片他们在内容上的相似度,我们令这个${a^{[l][C]}}$和${a^{[l][G]}}$ 代表这两个图片C和G的l层的激活函数值。如果这两个激活值相似,那么就意味着两个图片的内容相似。
定义:
${J_{content}}(C,G) = \frac{1}{2}{\left\| {{a^{[l][C]}} - {a^{[l][G]}}} \right\|^2}$
为两个激活值不同或者相似的程度,我们取l层的隐含单元的激活值,按元素相减,内容图片的激活值与生成图片相比较,然后取平方,也可以在前面加上归一化或者不加,比如$\frac{1}{2}$或者其他的,都影响不大,因为这都可以由这个超参数$\alpha$来调整。
这就是两个图片之间l层激活值差值的平方和。后面如果对$J(G)$做梯度下降来找G的值时,整个代价函数会激励这个算法来找到图像G,使得隐含层的激活值和你内容图像的相似。