数据分析实战——05丨Python科学计算：Pandas

• Pandas 可以对数据进行导入、清洗、处理、统计和输出
  • 在 NumPy 中数据结构是围绕 ndarray 展开的
  • 那么在 Pandas 中的Series 和 DataFrame 这两个核心数据结构，他们分别代表着一维的序列和二维的表结构
• Series 是个定长的字典序列
  • 说是定长是因为在存储的时候，相当于两个 ndarray，这也是和字典结构最大的不同
  • 因为在字典的结构里，元素的个数是不固定的
• Series有两个基本属性：index 和 values
  • 在 Series 结构中，index 默认是 0,1,2,……递增的整数序列，当然我们也可以自己来指定索引，比如 index=[‘a’, ‘b’, ‘c’, ‘d’]
  • import pandas as pd
  • from pandas import Series, DataFrame
  • x1 = Series([1,2,3,4])
• DataFrame 类型数据结构类似数据库表
  • 它包括了行索引和列索引，我们可以将 DataFrame 看成是由相同索引的 Series 组成的字典类型
• 数据导入和输出
  • Pandas 允许直接从 xlsx，csv 等文件中导入数据，也可以输出到 xlsx, csv 等文件，非常方便。
  • import pandas as pd
  • from pandas import Series, DataFrame
  • score = DataFrame(pd.read_excel('data.xlsx'))
  • score.to_excel('data1.xlsx')
  • print score
  • 需要说明的是，在运行的过程可能会存在缺少 xlrd 和 openpyxl 包的情况，到时候如果缺少了，可以在命令行模式下使用“pip install”命令来进行安装
• 数据清洗
  • 1. 删除 DataFrame 中的不必要的列或行
    • Pandas 提供了一个便捷的方法 drop() 函数来删除我们不想要的列或行
    • 比如我们想把“语文”这列删掉
    • df2 = df2.drop(columns=['Chinese'])
    • 想把“张飞”这行删掉。
    • df2 = df2.drop(index=['ZhangFei'])
  • 2. 重命名列名 columns，让列表名更容易识别
    • 如果你想对 DataFrame 中的 columns 进行重命名，可以直接使用 rename(columns=new_names, inplace=True) 函数
    • 比如我把列名 Chinese 改成 YuWen，English 改成 YingYu。
    • df2.rename(columns={'Chinese': 'YuWen', 'English': 'Yingyu'}, inplace = True)
  • 3. 去重复的值
    • 数据采集可能存在重复的行，这时只要使用 drop_duplicates() 就会自动把重复的行去掉。
    • df = df.drop_duplicates() # 去除重复行
  • 4. 格式问题
    • 更改数据格式
      • 这是个比较常用的操作，因为很多时候数据格式不规范，我们可以使用 astype 函数来规范数据格式，比如我们把 Chinese 字段的值改成 str 类型，或者 int64 可以这么写：
      • df2['Chinese'].astype('str')
      • df2['Chinese'].astype(np.int64)
    • 数据间的空格
      • 有时候我们先把格式转成了 str 类型，是为了方便对数据进行操作，这时想要删除数据间的空格，我们就可以使用 strip 函数：
      • # 删除左右两边空格
      • df2['Chinese']=df2['Chinese'].map(str.strip)
      • # 删除左边空格
      • df2['Chinese']=df2['Chinese'].map(str.lstrip)
      • # 删除右边空格
      • df2['Chinese']=df2['Chinese'].map(str.rstrip)
      • 如果数据里有某个特殊的符号，我们想要删除怎么办？同样可以使用 strip 函数，比如 Chinese 字段里有美元符号，我们想把这个删掉，可以这么写：
      • df2['Chinese']=df2['Chinese'].str.strip('$')
    • 大小写转换
      • 大小写是个比较常见的操作，比如人名、城市名等的统一都可能用到大小写的转换，在 Python 里直接使用 upper(), lower(), title() 函数，方法如下：
      • # 全部大写
      • df2.columns = df2.columns.str.upper()
      • # 全部小写
      • df2.columns = df2.columns.str.lower()
      • # 首字母大写
      • df2.columns = df2.columns.str.title()
    • 查找空值
      • 数据量大的情况下，有些字段存在空值 NaN 的可能，这时就需要使用 Pandas 中的 isnull 函数进行查找
      • 如果我们想看下哪个地方存在空值 NaN，可以针对数据表 df 进行 df.isnull()
  • 使用 apply 函数对数据进行清洗
    • apply 函数是 Pandas 中自由度非常高的函数，使用频率也非常高
• 数据统计
  • Pandas 和 NumPy 一样，都有常用的统计函数，如果遇到空值 NaN，会自动排除
  • 
• 数据表合并
  • 有时候我们需要将多个渠道源的多个数据表进行合并，一个 DataFrame 相当于一个数据库的数据表，那么多个 DataFrame 数据表的合并就相当于多个数据库的表合并
  • 两个 DataFrame 数据表的合并使用的是 merge() 函数
• 如何用 SQL 方式打开 Pandas
  • 在 Python 里可以直接使用 SQL 语句来操作 pandasql
  • pandasql 中的主要函数是 sqldf，它接收两个参数：一个 SQL 查询语句，还有一组环境变量 globals() 或 locals()
• 总结
  •