第一课 泰坦尼克号预测

目录

• 导入数据
• 将训练数据与测试数据合并
• 查看数据
  • 描述性统计查看是否有异常值
  • 查看特征与标签之间的关系
  • 查看标签是否有偏态
• 数据预处理
  • 填充缺失值
• 特征工程
  • 特征创造
  • 同组识别
  • 筛选子集
• 建模

导入数据

将训练数据与测试数据合并

查看数据

描述性统计查看是否有异常值

看看各个数据是否偏态，最值是否异常

查看特征与标签之间的关系

在泰坦尼克号这里，不要局限于查看绝对数量，还要算生存率

然后可以发现在$\text{S}$上船的乘客的存活率要高得多，所以考虑是这里的乘客在一等舱的人更多，于是画出一等舱和登陆地点以及生存与否的关系图

可以发现确实是如我们所想

剩下的都类似，就不赘述了

查看标签是否有偏态

然后采用np.log1p变换即可

数据预处理

填充缺失值

这里的填充还是注意，要划分组。比如填写价格时，发现缺失的样本是三等舱，于是将三等舱的价格平均填上去。但是对于登船口，我们发现不好推断，所以就直接填众数就好了
还要注意一下，这里Cabin这个特征缺失太多了，以前的方法是直接删掉，教程是填充了一个U，实际上DS给出的做法才是正确的，如下

还有一些特征可以用随机森林填写，可以在这里做，也可以在特征创造完了之后做

特征工程

特征创造

将Name中提取出Title.头衔也有很多种，我们也可以再进行浓缩一下，浓缩完了之后查看新特征与生存与否的关系

然后还可以提取家庭成员的数量

查看新特征与标签的关系，然后继续浓缩

Cabin应该也很有关系，提取出首字母，画出与标签的关系如下

票号看起来没啥关系，实际上多个人合购的话票号是一样的，所以有如下代码

发现有重合，于是可以统计如下

这个是按照频率而不是票号统计的

用随机森林填写Age缺失值，先找出相关系数，筛选出相关性较大的各个特征。注意corr只能计算数值，而Title显然跟年龄的关系很大，所以还要先建立独热编码

只不过这里推测实在是太难了，没有出生日期，随便怎么推断都很难，所以这里填写的准确率只有$58\mathrm{\%}$

同组识别

这个修改数据说的是，比如将年龄改小等等。这样子是为了更符合数据规律，但是感觉修改数据不太好，可以直接分组创造新特征吧

注意修改数据，一定是修改的生存率为$0$的女性那一小部分，其他的不要动

筛选子集

建模

建模的思路比较清奇：首先选择一大堆模型，不调惨去跑数据，然后选择排名靠前的几个数据，再利用网格搜索。这样子直接把xgboost抛弃了。。。建议别学

视频的最后三个还没看，将ROC啥的，有空看了