第一课 导入库 - 创建数据集 - CSV读取 - 导出 - 查找最大值 - 绘制数据
第1课
创建数据 - 我们从创建自己的数据集开始分析。这可以防止阅读本教程的最终用户为得到下面的结果而不得不下载许多文件。我们将把这个数据集导出到一个文本文件中,这样您就可以获得从文本文件中一些拉取数据的经验。
获取数据 - 我们将学习如何阅读文本文件。这些数据包括婴儿的姓名和1880年出生的婴儿的数量。
准备数据 - 在这里,我们将简单地看一下数据并确保它是干净的。干净,我的意思是我们会看看文本文件的内容并发现任何异常。可能包括缺失的数据,数据中的不一致或任何其他不合适的数据。如果发现这些问题,我们将不得不决定如何处理这些记录。
分析数据 - 我们将简单地找出特定年份中流行的取名倾向。
呈现数据 - 通过表格数据和图表,清楚地向最终用户显示特定年份中最受欢迎的取名。
pandas库用于所有数据分析,不包括一小部分的数据呈现部分。 数据呈现部分需要引入 matplotlib 库。导入库是我们在本课中采取的第一步。
#导入本教程所需的所有库 #在库中导入特定函数的一般语法: ## from(库) import(特定库函数)
from pandas import DataFrame, read_csv
#导入一个库但没有函数的一般语法:
## import(库)as(给库取一个昵称/别名)
import matplotlib.pyplot as plt
import pandas as pd #我通常这样导入pandas
import sys #确定Python版本号时需要的库
import matplotlib #仅用于确定Matplotlib版本号
print('Python version ' + sys.version)
print('Pandas version ' + pd.__version__)
print('Matplotlib version ' + matplotlib.__version__)
Python version 3.5.1 |Anaconda custom (64-bit)| (default, Feb 16 2016, 09:49:46) [MSC v.1900 64 bit (AMD64)]
Pandas version 0.20.1
Matplotlib version 1.5.1
创建数据
数据集将包括5个宝宝的名字和当年记录的出生人数(1880年)。
# 初始化宝宝姓名和出生人数
names = ['Bob','Jessica','Mary','John','Mel']
births = [968, 155, 77, 578, 973]
为了将这两个列表合并到一起,我们将使用 zip 函数。
zip?
BabyDataSet = list(zip(names,births))
BabyDataSet
我们基本上完成了创建数据集。我们现在将使用 pandas 库将此数据集导出到csv文件中
df 是一个 DataFrame 对象。您可以将此对象视为类似于SQL表或Excel电子表格的格式保存了BabyDataSet的内容。下面让我们看看df的内容 。
df = pd.DataFrame(data = BabyDataSet, columns=['Names', 'Births'])
df
将这个数据帧导出到 csv 文件。我们可以命名为文件 births1880.csv。函数 to_csv 用于导出文件。除非另有说明,否则该文件将保存在当前目录下。
df.to_csv?
我们仅使用的参数是 index 和 header。将这些参数设置为False将会阻止导出索引和标题名称。更改这些参数的值以更好地了解它们的用法
df.to_csv('births1880.csv',index=False,header=False)
获取数据
要读入csv文件,我们将使用pandas函数 read_csv。让我们看看这个函数如何使用。
read_csv?
虽然这个函数有很多参数,我们这里只简单地传递文本文件的位置。
文件位置在 C:\Users\ENTER_USER_NAME.xy\startups\births1880.csv
Note: 当然,你存放的文件位置不一样,你就需要修改它
Location = r'C:\Users\david\notebooks\update\births1880.csv'
df = pd.read_csv(Location)
注意字符串前面的r。由于斜线"\"是特殊转义字符,因此在字符串前加一个 r 将会忽略整个字符串的转义。
df
这给我们带来了这个练习的第一个问题。该 read_csv 函数处理的第一个记录在CSV文件中为头名。这显然是不正确的,因为文本文件没有为我们提供标题名称。
为了纠正这个问题,我们将传递 header 参数给 read_csv 函数并将它设置为 None (在python中表示为null)。
df = pd.read_csv(Location, header=None)
df
.如果我们想给列指定名字,我们必须传递另一个参数names 。我们也可以省略 header 参数。
df = pd.read_csv(Location, names=['Names','Births'])
df
您可以将数字[0,1,2,3,4]视为Excel文件中的行号。在pandas中,这些是 数据帧 index 的一部分 。您可以将index视为sql表的主键,但 index 是允许重复值的。
[Names, Births] 可以视为列标题,类似于Excel电子表格或sql数据库中的列标题。
使用过不再需要的csv文件我们可以这样删除它
import os
os.remove(Location)
准备数据
我们的数据由1880年的婴儿姓名和出生人数组成。我们已经知道我们有5条记录,并且没有记录丢失(非空值)。
names列是由字母数字(宝贝名称)组成的字符串。本列中有不良数据的可能性,但在分析时我们不需担心。在 Births 列应该只包含代表出生在一个特定年份具有特定名称的婴儿数目的整数。我们可以检查所有数据是是否是数据类型整数。这个列有一个浮点数据类型是没有意义的。在分析时,我们不需担心任何可能的异常值。
意识到我们无需在“names”列上做的检查之外,简单地看一下数据帧里面的数据应该是我们在这个目标阶段所需要的。随着我们在数据分析生命周期中的继续,我们将有大量的机会来发现数据集的任何问题。
# 检查每列数据类型
df.dtypes
# 检查 Births 列类型
df.Births.dtype
正如你可以看到 Births 列的类型是 int64,所以在这个列中不会出现浮点数(十进制数)或字母数字字符。
分析数据
要找出最常见的名字或婴儿出生率最高的名字,我们可以执行以下操作之一。
- 对数据帧排序并选择第一行
- 使用 max() 属性来查找最大值
# 方法 1:
Sorted = df.sort_values(['Births'], ascending=False)
Sorted.head(1)
# 方法 2:
df['Births'].max()
呈现数据
在这里,我们可以绘制 Births 列,并标记图形以显示最终用户图上的最高点。与表格一起,最终用户清楚地知道 Mel 是数据集中最受欢迎的婴儿名称。
plot() 是一个方便的属性,pandas可以让你无痛苦地绘制数据帧中的数据。上一节中我们学习了如何找到 Births 列的最大值。现在找到 最大出生数973值的婴儿姓名看起来有点棘手,让我们回过头来看看。
回顾一下:
df ['Names'] - 这是婴儿名字的整个列表,整个名字列
df ['Births'] - 这是1880年出生数的整个列表,整个Births列
df [‘Births’].max() - 这是在 Births 列中找到的最大值
[df ['Births'] == df ['Births'].max()] 等于 [查找Births列中等于973的所有记录]
df ['Names'] [df ['Births'] == df ['Births'].max()] 等于 选择Names列中的所有记录条件是 [Births列等于973]
另一种方法我们可以使用 Sorted 数据帧:
Sorted ['Names'].head(1).value
str()函数简单方便地将对象转换成一个字符串。
In [19]:
# Create graph
df['Births'].plot()
# Maximum value in the data set
MaxValue = df['Births'].max()
# Name associated with the maximum value
MaxName = df['Names'][df['Births'] == df['Births'].max()].values
# Text to display on graph
Text = str(MaxValue) + " - " + MaxName
# Add text to graph
plt.annotate(Text, xy=(1, MaxValue), xytext=(8, 0),
xycoords=('axes fraction', 'data'), textcoords='offset points')
print("The most popular name")
df[df['Births'] == df['Births'].max()]
#Sorted.head(1) can also be used