绘制直方图与求解核密度估计的Python方法

本文用到的库如下：

from sklearn.neighbors import KernelDensity
from scipy.stats import gaussian_kde
from statsmodels.nonparametric.kde import KDEUnivariate
from statsmodels.nonparametric.kernel_density import KDEMultivariate
import numpy as np
import matplotlib.pyplot as plt
from scipy.stats.distributions import norm
import seaborn as sns

绘制直方图

Python中数据可视化库matplotlib和seaborn都可以用于绘制直方图。

def PLotHist():
    """plot hist in matplotlib and seaborn"""
    N = 1000
    X = np.concatenate((np.random.normal(0,1,int(0.3 * N)),
                        np.random.normal(5,1,int(0.7 * N))))[:,np.newaxis]
    X_plot = np.linspace(-5,10,1000)[:,np.newaxis]
    fig = plt.figure()
    ax1 = fig.add_subplot(231)
    ax1.hist(X[:,0],bins=10,label='plt.hist')
    ax1.legend(loc='best')
    ax2 = fig.add_subplot(232)
    sns.distplot(X[:,0], bins=10,kde = False,label='sns.histplot',norm_hist=False)
    ax2.legend(loc='best')
    ax3 = fig.add_subplot(233)
    sns.distplot(X[:,0], bins=10,kde=True,label='sns.histplot')
    plt.show()

运行结果如下：

 直方图绘制需要注意：

1，bins 分组数量；

2，kde 是否进行核密度估计，False不绘制核密度估计曲线，只能是高斯核函数，如上图2和图3；

3，norm_hist 是否归一化，如上图2和图3。

参考：https://blog.csdn.net/jinruoyanxu/article/details/53390943

核密度估计

核密度估计Kernel Density Estimation(KDE)是在概率论中用来估计未知的密度函数，属于非参数检验方法之一。关于KDE的讲解网上有很多，下面重点讲下KDE在Python中的实现。

Python中计算核密度估计的库有：Scipy，Statsmodels，Scikit-Learn

函数参数如下：

1，class scipy.stats.gaussian_kde(dataset, bw_method=None, weights=None)

2，class sklearn.neighbors.KernelDensity(bandwidth=1.0, algorithm='auto', kernel='gaussian', metric='euclidean', atol=0, rtol=0, breadth_first=True, leaf_size=40, metric_params=None)

3，statsmodels.nonparametric.kde.KDEUnivariate(endog).fit([kernel, bw, fft, weights, gridsize, …])

 参数kernel核函数

可使用的核函数：

1，scipy.stats.gaussian_kde ，只有一个高斯核函数

2，Statsmodels

from statsmodels.nonparametric.kde import kernel_switch
list(kernel_switch.keys())

['gau', 'epa', 'uni', 'tri', 'biw', 'triw', 'cos', 'cos2']

 

 

 3，Scikit-Learn，核函数有：'gaussian', 'tophat', 'epanechnikov','exponential', 'linear', 'cosine'

 

bandwidth选择 

bw的选择有两种方法，一是在统计学中基于预先假设的推理规则，如Silverman's rule，另一种是机器学习领域的交叉验证。

在scikit-learn中选择不同bw参数比较：

def PlotBandWidths():
    '''plot different bandWidth of scikit-learn '''
    N = 100
    np.random.seed(1)
    X = np.concatenate((np.random.normal(0, 1, int(0.3 * N)),
                        np.random.normal(5, 1, int(0.7 * N))))[:, np.newaxis]

    X_plot = np.linspace(-5, 10, 1000)[:, np.newaxis]

    true_dens = (0.3 * norm(0, 1).pdf(X_plot[:, 0])
                + 0.7 * norm(5, 1).pdf(X_plot[:, 0]))

    fig, ax = plt.subplots()
    ax.fill(X_plot[:, 0], true_dens, fc='black', alpha=0.2,
            label='input distribution')
    colors = ['navy', 'cornflowerblue', 'darkorange']
    bws = [0.1, 0.5, 1]
    lw = 2

    for color, bw in zip(colors, bws):
        kde = KernelDensity(kernel='gaussian', bandwidth=bw).fit(X)
        log_dens = kde.score_samples(X_plot)
        ax.plot(X_plot[:, 0], np.exp(log_dens), color=color, lw=lw,
                linestyle='-', label="bandwidth = '{0}'".format(bw))

    ax.text(6, 0.38, "N={0} points".format(N))

    ax.legend(loc='upper left')
    ax.plot(X[:, 0], -0.005 - 0.01 * np.random.random(X.shape[0]), '+k')

    ax.set_xlim(-4, 9)
    ax.set_ylim(-0.02, 0.4)

运行结果：

 

 

关于三种函数的比较可以参考：http://www.pythontip.com/blog/post/8988/

 

函数的使用参考以下官网：

1，Scikit-learn http://lijiancheng0614.github.io/scikit-learn/auto_examples/neighbors/plot_species_kde.html

2，scipy https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.gaussian_kde.html

3，statsmodels https://www.statsmodels.org/stable/examples/notebooks/generated/kernel_density.html?highlight=statsmodels%20nonparametric%20kde

https://www.statsmodels.org/stable/generated/statsmodels.nonparametric.kde.KDEUnivariate.html#statsmodels.nonparametric.kde.KDEUnivariate

4，seaborn http://seaborn.pydata.org/generated/seaborn.kdeplot.html#seaborn.kdeplot