动手学数据分析 -- Task01_1
复习:这门课程得主要目的是通过真实的数据,以实战的方式了解数据分析的流程和熟悉数据分析python的基本操作。知道了课程的目的之后,我们接下来我们要正式的开始数据分析的实战教学,完成kaggle上泰坦尼克的任务,实战数据分析全流程。
这里有两份资料:
教材《Python for Data Analysis》和 baidu.com & google.com(善用搜索引擎)
1 第一章:数据载入及初步观察
1.1 载入数据
数据集下载 https://www.kaggle.com/c/titanic/overview
1.1.1 任务一:导入numpy和pandas
写入代码
import numpy as np
import pandas as pd
import os
【提示】如果加载失败,学会如何在你的python环境下安装numpy和pandas这两个库
1.1.2 任务二:载入数据
(1) 使用相对路径载入数据
(2) 使用绝对路径载入数据
#写入代码
df = pd.read_csv('train.csv') # 相对路径
# tsv和csv区别:csv和tsv文件的字段间分别由逗号和Tab键隔开。
# read_csv() 读取出来的文件,字段间用逗号隔开,而read_table() 读取出的文件用Tab隔开
#写入代码
path = os.path.abspath('train.csv') # 获取文件的绝对路径
path = os.getcwd() # 获取文件的绝对路径
df = pd.read_csv(path) # 绝对路径
# 使用read_table或者read_csv的sep参数可以让二者的效果一样
pd.read_table(path, sep='\t')
pd.read_table(path, sep=',')
【提示】相对路径载入报错时,尝试使用os.getcwd()查看当前工作目录。
【思考】知道数据加载的方法后,试试pd.read_csv()和pd.read_table()的不同,如果想让他们效果一样,需要怎么做?了解一下'.tsv'和'.csv'的不同,如何加载这两个数据集?
【总结】加载的数据是所有工作的第一步,我们的工作会接触到不同的数据格式(eg:.csv;.tsv;.xlsx),但是加载的方法和思路都是一样的,在以后工作和做项目的过程中,遇到之前没有碰到的问题,要多多查资料吗,使用google,了解业务逻辑,明白输入和输出是什么。
1.1.3 任务三:每1000行为一个数据模块,逐块读取
#写入代码
df = pd.read_csv('train.csv',chunksize=1000) # 得到的类型是TextFileReader
df = df.get_chunk() # 通过get_chunk函数可以转化为DataFrame
# 逐块读取的好处:可减少内存的存储和计算资源
【思考】什么是逐块读取?为什么要逐块读取呢?
【提示】大家可以chunker(数据块)是什么类型?用for
循环打印出来出处具体的样子是什么?
1.1.4 任务四:将表头改成中文,索引改为乘客ID [对于某些英文资料,我们可以通过翻译来更直观的熟悉我们的数据]
PassengerId => 乘客ID
Survived => 是否幸存
Pclass => 乘客等级(1/2/3等舱位)
Name => 乘客姓名
Sex => 性别
Age => 年龄
SibSp => 堂兄弟/妹个数
Parch => 父母与小孩个数
Ticket => 船票信息
Fare => 票价
Cabin => 客舱
Embarked => 登船港口
#写入代码
names = [" 乘客ID","是否幸存", "乘客等级(1/2/3等舱位)", "乘客姓名", "性别",
"年龄", "堂兄弟/妹个数", "父母与小孩个数", "船票信息", "票价", "客舱", "登船港口"]
# 方法一:
df = pd.read_csv('train.csv', names = names)
# 方法二:
df.columns = names
【思考】所谓将表头改为中文其中一个思路是:将英文列名表头替换成中文。还有其他的方法吗?
1.2 初步观察
导入数据后,你可能要对数据的整体结构和样例进行概览,比如说,数据大小、有多少列,各列都是什么格式的,是否包含null等
1.2.1 任务一:查看数据的基本信息
#写入代码
df.shape # 查看数据规模-数据的维度
df.dtypes # 查看各变量的数据类型
df.info() # 查看数据整体信息
df.describe() # 查看数据描述
df.columns # 查看列名
df.index # 查看行名-索引
df['xx'].values # 查看某一列的值
df['xx'].unique() # 查看某一列的值(去重)
【提示】有多个函数可以这样做,你可以做一下总结
1.2.2 任务二:观察表格前10行的数据和后15行的数据
#写入代码
df.head(10)
#写入代码
df.tail(15)
1.2.4 任务三:判断数据是否为空,为空的地方返回True,其余地方返回False
#写入代码
df.isnull()
【总结】上面的操作都是数据分析中对于数据本身的观察
【思考】对于一个数据,还可以从哪些方面来观察?找找答案,这个将对下面的数据分析有很大的帮助
1.3 保存数据
1.3.1 任务一:将你加载并做出改变的数据,在工作目录下保存为一个新文件train_chinese.csv
#写入代码
# 注意:不同的操作系统保存下来可能会有乱码。大家可以加入`encoding='GBK' 或者 ’encoding = ’utf-8‘‘`
df.to_csv("train_chinese.csv")
【总结】数据的加载以及入门,接下来就要接触数据本身的运算,我们将主要掌握numpy和pandas在工作和项目场景的运用。