机器学习正则化项

最近重新看了一下正则化项，具体地址为：

【直观详解】什么是正则化 | Go Further | Stay Hungry, Stay Foolish (charlesliuyx.github.io)

(3 封私信 / 31 条消息) 机器学习中常常提到的正则化到底是什么意思？ - 知乎 (zhihu.com)

 

对于第一个可视化给出相关可视化代码，画出等高线图：

import math
from matplotlib import pyplot as plt
import numpy as np

lena = 1

xx = np.arange(-99, 100, 1)
yy = np.arange(-99, 100, 1)
X, Y = np.meshgrid(xx, yy)

q = 0.5

normalization_value = (lena/2) * (np.abs(X)**q + np.abs(Y)**q)


fig = plt.figure()
ax = fig.add_subplot(projection='3d')
ax.plot_surface(X, Y, normalization_value, cmap='rainbow')
ax.contour(X, Y, normalization_value, offset=-2, cmap='rainbow')
plt.show()

下面依次为lena为1时，模型阶数为0.5， 1， 2， 4时的正则项图像。