决策树的可视化输出

 

前面的博客里有提到决策树，我们也了解了决策树的构建过程，如果可以可视化决策树，把决策树打印出来，对我们理解决策树的构建会有很大的帮助。这篇文章中，我们就来看下如何可视化输出一棵决策树。

一、安装相应的插件

我们需要安装Graphviz和pygraphviz，教程，这个教程里有详细的安装过程，这里就不赘述了。

二、运行实例

我们依然以iris数据集为例，打印输出决策树看下效果。

1.  
   #coding=utf-8
2.  
   import numpy as np
3.  
   import pandas as pd
4.  
   import pydotplus
5.  
   def lrisTrain():
6.  
   #预处理-引入鸢尾数据：
7.  
   from sklearn.datasets import load_iris
8.  
   iris = load_iris()
9.  
    
10.  
    from sklearn.cross_validation import train_test_split
11.  
    # 把数据分为测试数据和验证数据
12.  
    train_data,test_data,train_target,test_target=train_test_split(iris.data,iris.target,test_size=0.2,random_state=1)
13.  
    #Model(建模)-引入决策树
14.  
    from sklearn import tree
15.  
    #建立一个分类器
16.  
    clf = tree.DecisionTreeClassifier(criterion="entropy")
17.  
    #训练集进行训练
18.  
    clf.fit(train_data,train_target)
19.  
    #画图方法1-生成dot文件
20.  
    with open('treeone.dot', 'w') as f:
21.  
    dot_data = tree.export_graphviz(clf, out_file=None)
22.  
    f.write(dot_data)
23.  
     
24.  
    #画图方法2-生成pdf文件
25.  
    dot_data = tree.export_graphviz(clf, out_file=None,feature_names=clf.feature_importances_,
26.  
    filled=True, rounded=True, special_characters=True)
27.  
    graph = pydotplus.graph_from_dot_data(dot_data)
28.  
    ###保存图像到pdf文件
29.  
    graph.write_pdf("treetwo.pdf")
30.  
     
31.  
    #进行预测
32.  
    y_pred = clf.predict(test_data)
33.  
     
34.  
    #Verify(验证)
35.  
    #引入模块
36.  
    from sklearn import metrics
37.  
    #法一：通过准确率进行验证
38.  
    print(metrics.accuracy_score(y_true =test_target,y_pred=y_pred))
39.  
    #法二：通过混淆矩阵验证（横轴：实际值，纵轴：预测值）（理想情况下是个对角阵）
40.  
    #print(metrics.confusion_matrix(y_true=test_target,y_pred=y_pred))
41.  
    lrisTrain()

三、输出结果

上述的两个方法将会产生两个文件，一个是dot文件，我们打开这个dot文件，得到的是决策树生成的文本结构信息：

如何把它转换成树的图形结构呢？

打开一个黑窗口（cmd,Anaconda prompt...都可以），先定位到生成的决策树 treeone.dot 所在的路径下，然后输入命令行：dot -Tpdf treeone.dot -o treeone.pdf ,这样就把名为treeone.dot文件在当前目录下编译生成了treeone.pdf文件，打开后效果如下：

生成的第二个文件treetwo.pdf就可以直接打开了，效果如下：

我们生成决策树就是调用了export_graphviz函数，这个函数有很多参数值，可以通过设置这些参数值，控制生成节点上的输出信息，大家可以根据自己的需求设置参数。

小结：我们这里是用sklearn中的DecisionTreeClassifier进行分类的，构建模型的时候只用到了这一棵决策树。后面我们会将到集成学习算法xgboost算法中决策树的可视化，xgboost是直接用它自己封装的plot_tree这个类来进行输出，不需要单独安装插件，反而更加容易可视化输出决策树。