练习：数据预处理¶

从上面的数据探索中的表中，我们可以看到有几个属性的每一条记录都是非数字的。通常情况下，学习算法期望输入是数字的，这要求非数字的特征（称为类别变量）被转换。转换类别变量的一种流行的方法是使用独热编码方案。独热编码为每一个非数字特征的每一个可能的类别创建一个_“虚拟”_变量。例如，假设someFeature有三个可能的取值A，B或者C，。我们将把这个特征编码成someFeature_A, someFeature_B和someFeature_C.

特征X		特征X_A	特征X_B	特征X_C
B		0	1	0
C	----> 独热编码 ---->	0	0	1
A		1	0	0

此外，对于非数字的特征，我们需要将非数字的标签'income'转换成数值以保证学习算法能够正常工作。因为这个标签只有两种可能的类别（"<=50K"和">50K"），我们不必要使用独热编码，可以直接将他们编码分别成两个类0和1，在下面的代码单元中你将实现以下功能：

使用pandas.get_dummies()对'features_raw'数据来施加一个独热编码。
将目标标签'income_raw'转换成数字项。
- 将"<=50K"转换成0；将">50K"转换成1。

# TODO：使用pandas.get_dummies()对'features_raw'数据进行独热编码
features = pd.get_dummies(features_raw)

# TODO：将'income_raw'编码成数字值
from sklearn import preprocessing
income = pd.Series(preprocessing.LabelEncoder().fit_transform(income_raw))

# 打印经过独热编码之后的特征数量
encoded = list(features.columns)
print "{} total features after one-hot encoding.".format(len(encoded))

# 移除下面一行的注释以观察编码的特征名字
#print encoded

103 total features after one-hot encoding.

混洗和切分数据¶

现在所有的 类别变量 已被转换成数值特征，而且所有的数值特征已被规一化。和我们一般情况下做的一样，我们现在将数据（包括特征和它们的标签）切分成训练和测试集。其中80%的数据将用于训练和20%的数据用于测试。然后再进一步把训练数据分为训练集和验证集，用来选择和优化模型。

运行下面的代码单元来完成切分。

# 导入 train_test_split
from sklearn.model_selection import train_test_split

# 将'features'和'income'数据切分成训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(features, income, test_size = 0.2, random_state = 0,
                                                    stratify = income)
# 将'X_train'和'y_train'进一步切分为训练集和验证集
X_train, X_val, y_train, y_val = train_test_split(X_train, y_train, test_size=0.2, random_state=0,
                                                    stratify = y_train)

# 显示切分的结果
print "Training set has {} samples.".format(X_train.shape[0])
print "Validation set has {} samples.".format(X_val.shape[0])
print "Testing set has {} samples.".format(X_test.shape[0])

Training set has 28941 samples.
Validation set has 7236 samples.
Testing set has 9045 samples.

评价模型性能¶

在这一部分中，我们将尝试四种不同的算法，并确定哪一个能够最好地建模数据。四种算法包含一个天真的预测器 和三个你选择的监督学习器。

评价方法和朴素的预测器¶

CharityML通过他们的研究人员知道被调查者的年收入大于\$50,000最有可能向他们捐款。因为这个原因*CharityML*对于准确预测谁能够获得\$50,000以上收入尤其有兴趣。这样看起来使用准确率作为评价模型的标准是合适的。另外，把没有收入大于\$50,000的人识别成年收入大于\$50,000对于CharityML来说是有害的，因为他想要找到的是有意愿捐款的用户。这样，我们期望的模型具有准确预测那些能够年收入大于\$50,000的能力比模型去查全这些被调查者更重要。我们能够使用F-beta score作为评价指标，这样能够同时考虑查准率和查全率：

$$ F_{\beta} = (1 + \beta^2) \cdot \frac{precision \cdot recall}{\left( \beta^2 \cdot precision \right) + recall} $$

尤其是，当 $\beta = 0.5$ 的时候更多的强调查准率，这叫做F$_{0.5}$ score （或者为了简单叫做F-score）。

问题 1 - 天真的预测器的性能¶

通过查看收入超过和不超过 \$50,000 的人数，我们能发现多数被调查者年收入没有超过 \$50,000。如果我们简单地预测说“这个人的收入没有超过 \$50,000”，我们就可以得到一个准确率超过 50% 的预测。这样我们甚至不用看数据就能做到一个准确率超过 50%。这样一个预测被称作是天真的。通常对数据使用一个天真的预测器是十分重要的，这样能够帮助建立一个模型表现是否好的基准。使用下面的代码单元计算天真的预测器的相关性能。将你的计算结果赋值给'accuracy', ‘precision’, ‘recall’ 和 'fscore'，这些值会在后面被使用，请注意这里不能使用scikit-learn，你需要根据公式自己实现相关计算。

如果我们选择一个无论什么情况都预测被调查者年收入大于 \$50,000 的模型，那么这个模型在验证集上的准确率，查准率，查全率和 F-score是多少？

#不能使用scikit-learn，你需要根据公式自己实现相关计算。

# 假阳性FP
FP = float(len(y_val[y_val == 0]))
# 真阳性TP
TP = float(len(y_val[y_val == 1]))
# 假阴性
FN = 0

#TODO： 计算准确率
accuracy = TP/len(y_val)

# TODO： 计算查准率 Precision
precision = TP / (TP+FP)

# TODO： 计算查全率 Recall
recall = TP / (TP+FN)

# TODO： 使用上面的公式，设置beta=0.5，计算F-score
fscore = (1+0.5**2) * ( (precision*recall) / (0.5**2*precision + recall) )

# 打印结果
print "Naive Predictor on validation data: \n\
    Accuracy score: {:.4f} \n\
    Precision: {:.4f} \n\
    Recall: {:.4f} \n\
    F-score: {:.4f}".format(accuracy, precision, recall, fscore)

Naive Predictor on validation data: 
     Accuracy score: 0.2478 
     Precision: 0.2478 
     Recall: 1.0000 
     F-score: 0.2917

监督学习模型¶

问题 2 - 模型应用¶

你能够在 scikit-learn 中选择以下监督学习模型

高斯朴素贝叶斯 (GaussianNB)
决策树 (DecisionTree)
集成方法 (Bagging, AdaBoost, Random Forest, Gradient Boosting)
K近邻 (K Nearest Neighbors)
随机梯度下降分类器 (SGDC)
支撑向量机 (SVM)
Logistic回归（LogisticRegression）

从上面的监督学习模型中选择三个适合我们这个问题的模型，并回答相应问题。

模型1¶

模型名称

回答：k近邻

描述一个该模型在真实世界的一个应用场景。（你需要为此做点研究，并给出你的引用出处）

回答：使用k近邻分类海伦的约会对象，将其分为3类

参考文章：https://www.cnblogs.com/jtianwen2014/p/4249003.html

这个模型的优势是什么？他什么情况下表现最好？

回答： 1.简单，容易理解，精度高，对异常数据不敏感。 2.目标变量是数值型且有限

这个模型的缺点是什么？什么条件下它表现很差？

回答： 1.计算复杂度高，空间复杂度高，样本不平衡 2.数值很大时

根据我们当前数据集的特点，为什么这个模型适合这个问题。

回答： 1.数值可能存在异常值，k近邻可以降低对异常值的敏感程度 2.二分类问题，k值可以选为奇数 3.数据量不是很大

模型2¶

模型名称

回答：集成方法（Random Forest）

描述一个该模型在真实世界的一个应用场景。（你需要为此做点研究，并给出你的引用出处）

回答：手写体数字识别

网址：https://www.cnblogs.com/hrlnw/p/3850459.html

这个模型的优势是什么？他什么情况下表现最好？

回答： 1.可以处理高维数据，可以不用进行特征筛选，非常容易进行分布式处理，实现起来非常高效

2.能够评估各个特征在分类问题上的重要性

这个模型的缺点是什么？什么条件下它表现很差？

回答： 1.树越多，随机森林的表现才会越稳定。实际应用中树不多可能导致不稳定。

2.不平衡数据集

根据我们当前数据集的特点，为什么这个模型适合这个问题。

回答：数据维度较高，处理起来很合适

模型3¶

模型名称

回答：决策树

描述一个该模型在真实世界的一个应用场景。（你需要为此做点研究，并给出你的引用出处）

回答：鸢尾花分类

参考地址：http://blog.csdn.net/rongrongyaofeiqi/article/details/52872957

这个模型的优势是什么？他什么情况下表现最好？

回答： 1.理解和解释起来简单，且决策树模型可以想象，能够处理多输出的问题。

2.能够生成清晰的基于特征(feature)选择不同预测结果的树状结构

这个模型的缺点是什么？什么条件下它表现很差？

回答： 1.决策树的结果可能是不稳定

2.人为的改变一些特征，使分类器错误

根据我们当前数据集的特点，为什么这个模型适合这个问题。

回答：

1.数据量不是很大 2.可以选择特征条件进行分类

练习 - 创建一个训练和预测的流水线¶

为了正确评估你选择的每一个模型的性能，创建一个能够帮助你快速有效地使用不同大小的训练集并在验证集上做预测的训练和验证的流水线是十分重要的。你在这里实现的功能将会在接下来的部分中被用到。在下面的代码单元中，你将实现以下功能：

从sklearn.metrics中导入fbeta_score和accuracy_score。
用训练集拟合学习器，并记录训练时间。
对训练集的前300个数据点和验证集进行预测并记录预测时间。
计算预测训练集的前300个数据点的准确率和F-score。
计算预测验证集的准确率和F-score。

# TODO：从sklearn中导入两个评价指标 - fbeta_score和accuracy_score
from sklearn.metrics import fbeta_score, accuracy_score

def train_predict(learner, sample_size, X_train, y_train, X_val, y_val): 
    '''
    inputs:
       - learner: the learning algorithm to be trained and predicted on
       - sample_size: the size of samples (number) to be drawn from training set
       - X_train: features training set
       - y_train: income training set
       - X_val: features validation set
       - y_val: income validation set
    '''
    
    results = {}
    
    # TODO：使用sample_size大小的训练数据来拟合学习器
    # TODO: Fit the learner to the training data using slicing with 'sample_size'
    start = time() # 获得程序开始时间
    learner = learner.fit(X_train[:sample_size],y_train[:sample_size])
    end = time() # 获得程序结束时间
    
    # TODO：计算训练时间
    results['train_time'] = end - start
    
    # TODO: 得到在验证集上的预测值
    #       然后得到对前300个训练数据的预测结果
    start = time() # 获得程序开始时间
    predictions_val = learner.predict(X_val)
    predictions_train = learner.predict(X_train[:300])
    end = time() # 获得程序结束时间
    
    # TODO：计算预测用时
    results['pred_time'] = end - start
            
    # TODO：计算在最前面的300个训练数据的准确率
    results['acc_train'] = accuracy_score(y_train[:300],predictions_train)
        
    # TODO：计算在验证上的准确率
    results['acc_val'] = accuracy_score(y_val,predictions_val)
    
    # TODO：计算在最前面300个训练数据上的F-score
    results['f_train'] = fbeta_score(y_train[:300],predictions_train, beta=0.5)
        
    # TODO：计算验证集上的F-score
    results['f_val'] = fbeta_score(y_val,predictions_val, beta=0.5)
       
    # 成功
    print "{} trained on {} samples.".format(learner.__class__.__name__, sample_size)
        
    # 返回结果
    return results

练习：初始模型的评估¶

在下面的代码单元中，您将需要实现以下功能：

导入你在前面讨论的三个监督学习模型。
初始化三个模型并存储在'clf_A'，'clf_B'和'clf_C'中。
- 使用模型的默认参数值，在接下来的部分中你将需要对某一个模型的参数进行调整。
- 设置random_state (如果有这个参数)。
计算1%， 10%， 100%的训练数据分别对应多少个数据点，并将这些值存储在'samples_1', 'samples_10', 'samples_100'中

注意：取决于你选择的算法，下面实现的代码可能需要一些时间来运行！

# TODO：从sklearn中导入三个监督学习模型
from sklearn.neighbors import KNeighborsClassifier
from sklearn.ensemble import RandomForestClassifier
#from sklearn.svm import SVC
#from sklearn.naive_bayes import GaussianNB
from sklearn import tree
#from sklearn import linear_model
#from sklearn.linear_model import LogisticRegression
#from sklearn.ensemble import BaggingClassifier

# TODO：初始化三个模型
clf_A = KNeighborsClassifier(n_neighbors=3)
clf_B = RandomForestClassifier(random_state=2)
clf_C = tree.DecisionTreeClassifier()
#clf_C = GaussianNB()
#clf_C = SVC(kernel='linear')
#clf_C = linear_model.SGDClassifier()


# TODO：计算1%， 10%， 100%的训练数据分别对应多少点
samples_1 = int( len(X_train)*0.01 )
samples_10 = int( len(X_train)*0.1 )
samples_100 = len(X_train)

# 收集学习器的结果
results = {}
for clf in [clf_A, clf_B, clf_C]:
    clf_name = clf.__class__.__name__
    results[clf_name] = {}
    for i, samples in enumerate([samples_1, samples_10, samples_100]):
        results[clf_name][i] = train_predict(clf, samples, X_train, y_train, X_val, y_val)

# 对选择的三个模型得到的评价结果进行可视化
vs.evaluate(results, accuracy, fscore)

KNeighborsClassifier trained on 289 samples.
KNeighborsClassifier trained on 2894 samples.
KNeighborsClassifier trained on 28941 samples.
RandomForestClassifier trained on 289 samples.
RandomForestClassifier trained on 2894 samples.
RandomForestClassifier trained on 28941 samples.
DecisionTreeClassifier trained on 289 samples.
DecisionTreeClassifier trained on 2894 samples.
DecisionTreeClassifier trained on 28941 samples.

提高效果¶

在这最后一节中，您将从三个有监督的学习模型中选择 最好的 模型来使用学生数据。你将在整个训练集（X_train和y_train）上使用网格搜索优化至少调节一个参数以获得一个比没有调节之前更好的 F-score。

问题 3 - 选择最佳的模型¶

基于你前面做的评价，用一到两段话向 CharityML 解释这三个模型中哪一个对于判断被调查者的年收入大于 \$50,000 是最合适的。
提示：你的答案应该包括评价指标，预测/训练时间，以及该算法是否适合这里的数据。

回答：

1.从准确度上上看，DecisionTree在1%和100%训练集上表现最好，DecisionTree和RandomForest在10%训练集上表现一样好，RandomForest在所有的验证集表现最好

2.从F-score上看，RandomForest在1%训练集上和所有的验证集表现最好，DecisionTree和RandomForest在10%训练集上表现一样好

3.从训练时间上来看，KNeighbors最多，RandomForest中间，DecisionTree最少

4.从预测时间上来看，KNeighbors明显多与其他两种算法

5.综上所述RandomForest综合表现较好，所需时间少分类准，虽然DecisionTree在训练集上表现好，但是验证集上表现差，说明有过拟合。所以RandomForest最合适。

问题 4 - 用通俗的话解释模型¶

用一到两段话，向 CharityML 用外行也听得懂的话来解释最终模型是如何工作的。你需要解释所选模型的主要特点。例如，这个模型是怎样被训练的，它又是如何做出预测的。避免使用高级的数学或技术术语，不要使用公式或特定的算法名词。

回答： 1.训练：对所有数据找到最大程度区分当前数据的特征，然后按照此特征的条件进行数据分割，对分割的数据重复此步骤，直到所有特征判断完。这样的判断构成决策树。

2.由于单个决策树，依赖分类参数选择严重，所以重复1对样本进行随机有放回的抽样产生多个决策树，这些决策树合并起来就是随机森林

练习：模型调优¶

调节选择的模型的参数。使用网格搜索（GridSearchCV）来至少调整模型的重要参数（至少调整一个），这个参数至少需尝试3个不同的值。你要使用整个训练集来完成这个过程。在接下来的代码单元中，你需要实现以下功能：

导入sklearn.model_selection.GridSearchCV 和 sklearn.metrics.make_scorer.
初始化你选择的分类器，并将其存储在clf中。
- 设置random_state (如果有这个参数)。
创建一个对于这个模型你希望调整参数的字典。
- 例如: parameters = {'parameter' : [list of values]}。
- 注意： 如果你的学习器有 max_features 参数，请不要调节它！
使用make_scorer来创建一个fbeta_score评分对象（设置$\beta = 0.5$）。
在分类器clf上用'scorer'作为评价函数运行网格搜索，并将结果存储在grid_obj中。
用训练集（X_train, y_train）训练grid search object,并将结果存储在grid_fit中。

注意： 取决于你选择的参数列表，下面实现的代码可能需要花一些时间运行！

# TODO：导入'GridSearchCV', 'make_scorer'和其他一些需要的库
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
from sklearn.metrics import fbeta_score,make_scorer
# TODO：初始化分类器
clf = RandomForestClassifier(random_state=2)

# TODO：创建你希望调节的参数列表
parameters = {'n_estimators':[1,12,55,100]}

# TODO：创建一个fbeta_score打分对象
scorer = make_scorer(fbeta_score, beta=0.5)

# TODO：在分类器上使用网格搜索，使用'scorer'作为评价函数
grid_obj = GridSearchCV(clf, parameters, scorer)

# TODO：用训练数据拟合网格搜索对象并找到最佳参数
grid_obj = grid_obj.fit(X_train, y_train)

# 得到estimator
best_clf = grid_obj.best_estimator_

# 使用没有调优的模型做预测
predictions = (clf.fit(X_train, y_train)).predict(X_val)
# 使用调优的模型做预测
best_predictions = best_clf.predict(X_val)

# 汇报调参前和调参后的分数
print "Unoptimized model\n------"
print "Accuracy score on validation data: {:.4f}".format(accuracy_score(y_val, predictions))
print "F-score on validation data: {:.4f}".format(fbeta_score(y_val, predictions, beta = 0.5))
print "\nOptimized Model\n------"
print "Final accuracy score on the validation data: {:.4f}".format(accuracy_score(y_val, best_predictions))
print "Final F-score on the validation data: {:.4f}".format(fbeta_score(y_val, best_predictions, beta = 0.5))

Unoptimized model
------
Accuracy score on validation data: 0.8401
F-score on validation data: 0.6844

Optimized Model
------
Final accuracy score on the validation data: 0.8467
Final F-score on the validation data: 0.6967

问题 5 - 最终模型评估¶

你的最优模型在测试数据上的准确率和 F-score 是多少？这些分数比没有优化的模型好还是差？你优化的结果相比于你在问题 1中得到的天真预测器怎么样？
注意：请在下面的表格中填写你的结果，然后在答案框中提供讨论。

结果:¶

评价指标	天真预测器	未优化的模型	优化的模型
准确率	0.2478	0.8401	0.8467
F-score	0.2917	0.6844	0.6967

回答： 1.未优化的模型和优化的模型都比天真预测器好很多。 2.优化的模型比未优化的模型表现好。

特征的重要性¶

在数据上（比如我们这里使用的人口普查的数据）使用监督学习算法的一个重要的任务是决定哪些特征能够提供最强的预测能力。专注于少量的有效特征和标签之间的关系，我们能够更加简单地理解这些现象，这在很多情况下都是十分有用的。在这个项目的情境下这表示我们希望选择一小部分特征，这些特征能够在预测被调查者是否年收入大于\$50,000这个问题上有很强的预测能力。

选择一个有 'feature_importance_' 属性的scikit学习分类器（例如 AdaBoost，随机森林）。'feature_importance_' 属性是对特征的重要性排序的函数。在下一个代码单元中用这个分类器拟合训练集数据并使用这个属性来决定人口普查数据中最重要的5个特征。

问题 6 - 观察特征相关性¶

当探索数据的时候，它显示在这个人口普查数据集中每一条记录我们有十三个可用的特征。
在这十三个记录中，你认为哪五个特征对于预测是最重要的，选择每个特征的理由是什么？你会怎样对他们排序？

回答：

特征1:age，年龄越大，积累越高，收入越高
特征2:education_level，教育程度越高理论上收入越高
特征3:occupation，职业领域，不同的职业领域，收入水平不一样
特征4:relationship，家庭情况，家庭总数入也有影响
特征5:workclass，劳动类型，不同的类型对输入也不同

age>workclass>occupation>education_level>relationship

练习 - 提取特征重要性¶

选择一个scikit-learn中有feature_importance_属性的监督学习分类器，这个属性是一个在做预测的时候根据所选择的算法来对特征重要性进行排序的功能。

在下面的代码单元中，你将要实现以下功能：

如果这个模型和你前面使用的三个模型不一样的话从sklearn中导入一个监督学习模型。
在整个训练集上训练一个监督学习模型。
使用模型中的 'feature_importances_'提取特征的重要性。

# TODO：导入一个有'feature_importances_'的监督学习模型

# TODO：在训练集上训练一个监督学习模型
model = best_clf

# TODO： 提取特征重要性
importances = model.feature_importances_

# 绘图
vs.feature_plot(importances, X_train, y_train)

问题 7 - 提取特征重要性¶

观察上面创建的展示五个用于预测被调查者年收入是否大于\$50,000最相关的特征的可视化图像。

这五个特征的权重加起来是否超过了0.5?
这五个特征和你在问题 6中讨论的特征比较怎么样？
如果说你的答案和这里的相近，那么这个可视化怎样佐证了你的想法？
如果你的选择不相近，那么为什么你觉得这些特征更加相关？

回答：

1.权重之和超过了0.5

2.不一致

3.由于github上对这些特征没有解释，hours-per-week，capital-gain，marital-status，所以未考虑到。

特征选择¶

如果我们只是用可用特征的一个子集的话模型表现会怎么样？通过使用更少的特征来训练，在评价指标的角度来看我们的期望是训练和预测的时间会更少。从上面的可视化来看，我们可以看到前五个最重要的特征贡献了数据中所有特征中超过一半的重要性。这提示我们可以尝试去减小特征空间，简化模型需要学习的信息。下面代码单元将使用你前面发现的优化模型，并只使用五个最重要的特征在相同的训练集上训练模型。

# 导入克隆模型的功能
from sklearn.base import clone

# 减小特征空间
X_train_reduced = X_train[X_train.columns.values[(np.argsort(importances)[::-1])[:5]]]
X_val_reduced = X_val[X_val.columns.values[(np.argsort(importances)[::-1])[:5]]]

# 在前面的网格搜索的基础上训练一个“最好的”模型
clf_on_reduced = (clone(best_clf)).fit(X_train_reduced, y_train)

# 做一个新的预测
reduced_predictions = clf_on_reduced.predict(X_val_reduced)

# 对于每一个版本的数据汇报最终模型的分数
print "Final Model trained on full data\n------"
print "Accuracy on validation data: {:.4f}".format(accuracy_score(y_val, best_predictions))
print "F-score on validation data: {:.4f}".format(fbeta_score(y_val, best_predictions, beta = 0.5))
print "\nFinal Model trained on reduced data\n------"
print "Accuracy on validation data: {:.4f}".format(accuracy_score(y_val, reduced_predictions))
print "F-score on validation data: {:.4f}".format(fbeta_score(y_val, reduced_predictions, beta = 0.5))

Final Model trained on full data
------
Accuracy on validation data: 0.8467
F-score on validation data: 0.6967

Final Model trained on reduced data
------
Accuracy on validation data: 0.8307
F-score on validation data: 0.6619

问题 8 - 特征选择的影响¶

最终模型在只是用五个特征的数据上和使用所有的特征数据上的 F-score 和准确率相比怎么样？
如果训练时间是一个要考虑的因素，你会考虑使用部分特征的数据作为你的训练集吗？

回答：

1.部分特征比所有特征F-score和准确率低。

2.会，若数据量比较大，特征比较多，从训练时间上考虑会选择部分特征训练

问题 9 - 在测试集上测试你的模型¶

终于到了测试的时候，记住，测试集只能用一次。

使用你最有信心的模型，在测试集上测试，计算出准确率和 F-score。 简述你选择这个模型的原因，并分析测试结果

#TODO test your model on testing data and report accuracy and F score
res = best_clf.predict(X_test)
from sklearn.metrics import fbeta_score,accuracy_score
print accuracy_score(y_true=y_test,y_pred=res)
print fbeta_score(y_true=y_test,y_pred=res,beta=0.5)

0.840132669983
0.682483889865

1.随机森林模型主要在于训练时间短，准确率较高，不容易过拟合

2.预测结果还有很大提升空间

欢迎扫码关注，或搜索大数据与知识图谱，定期分享大数据与知识图谱相关知识点：

	age	workclass	education_level	education-num	marital-status	occupation	relationship	race	sex	capital-gain	hours-per-week	native-country	income
0	39	State-gov	Bachelors	13.0	Never-married	Adm-clerical	Not-in-family	White	Male	2174.0	40.0	United-States	<=50K
1	50	Self-emp-not-inc	Bachelors	13.0	Married-civ-spouse	Exec-managerial	Husband	White	Male	0.0	13.0	United-States	<=50K
2	38	Private	HS-grad	9.0	Divorced	Handlers-cleaners	Not-in-family	White	Male	0.0	40.0	United-States	<=50K
3	53	Private	11th	7.0	Married-civ-spouse	Handlers-cleaners	Husband	Black	Male	0.0	40.0	United-States	<=50K
4	28	Private	Bachelors	13.0	Married-civ-spouse	Prof-specialty	Wife	Black	Female	0.0	40.0	Cuba	<=50K
5	37	Private	Masters	14.0	Married-civ-spouse	Exec-managerial	Wife	White	Female	0.0	40.0	United-States	<=50K
6	49	Private	9th	5.0	Married-spouse-absent	Other-service	Not-in-family	Black	Female	0.0	16.0	Jamaica	<=50K
7	52	Self-emp-not-inc	HS-grad	9.0	Married-civ-spouse	Exec-managerial	Husband	White	Male	0.0	45.0	United-States	>50K
8	31	Private	Masters	14.0	Never-married	Prof-specialty	Not-in-family	White	Female	14084.0	50.0	United-States	>50K
9	42	Private	Bachelors	13.0	Married-civ-spouse	Exec-managerial	Husband	White	Male	5178.0	40.0	United-States	>50K

Tensor

欢迎关注微信公众号：大数据与知识图谱

为慈善机构寻找捐助者

机器学习纳米学位¶

监督学习¶

项目2: 为CharityML寻找捐献者¶

开始¶

探索数据¶

练习：数据探索¶

准备数据¶

获得特征和标签¶

转换倾斜的连续特征¶

规一化数字特征¶

练习：数据预处理¶

混洗和切分数据¶

评价模型性能¶

评价方法和朴素的预测器¶

问题 1 - 天真的预测器的性能¶

监督学习模型¶

问题 2 - 模型应用¶

模型1¶

模型2¶

模型3¶

练习 - 创建一个训练和预测的流水线¶

练习：初始模型的评估¶

提高效果¶

问题 3 - 选择最佳的模型¶

问题 4 - 用通俗的话解释模型¶

练习：模型调优¶

问题 5 - 最终模型评估¶

结果:¶

特征的重要性¶

问题 6 - 观察特征相关性¶

练习 - 提取特征重要性¶

问题 7 - 提取特征重要性¶

特征选择¶

问题 8 - 特征选择的影响¶

问题 9 - 在测试集上测试你的模型¶

公告