【Python 数据分析】groupby分组统计

目录

• 1.简介
• 2.实战演练
  • 2.1 简单分组统计并聚合
  • 2.2 分组-可迭代对象
  • 2.3 其他轴上的分组
  • 2.4 通过字典或者Series分组
  • 2.5 通过函数分组
  • 2.6 分组函数计算方法
  • 2.7 多函数计算:agg()

1.简介

（1）根据某些条件将数据拆分成组
（2）对每个组独立应用函数
（3）将结果合并到一个数据结构中

Dataframe在行（axis=0）或列（axis=1）上进行分组，将一个函数应用到各个分组并产生一个新值，然后函数执行结果被合并到最终的结果对象中。
df.groupby(by=None, axis=0, level=None, as_index=True, sort=True, group_keys=True, squeeze=False, **kwargs)

2.实战演练

2.1 简单分组统计并聚合

import pandas as pd
import numpy as np

df = pd.DataFrame({'科目' : ['语文', '语文', '语文', '数学','数学'],
                   '姓名' : ['Jack', 'Lucy', 'Alice', 'Mark', 'Jhon'],
                   '性别' : ['man', 'woman', 'woman', 'man', 'man'],
                   '成绩' : [85, 90, 70, 60, 100]})
print(df)
print('------')

print(df.groupby('科目'), type(df.groupby('科目')))
print('------')
# 直接分组得到一个groupby对象，是一个中间数据，没有进行计算

a = df.groupby('科目').mean()
b = df.groupby(['科目','性别']).mean()
c = df.groupby(['科目'])['成绩'].mean()  # 以A分组，算D的平均值
print(a,type(a),'\n',a.columns)
print(b,type(b),'\n',b.columns)
print(c,type(c))
# 通过分组后的计算，得到一个新的dataframe
# 默认axis = 0，以行来分组
# 可单个或多个（[]）列分组

2.2 分组-可迭代对象

import pandas as pd
import numpy as np
# 分组 - 可迭代对象

df = pd.DataFrame({'X' : ['A', 'B', 'A', 'B'], 'Y' : [1, 4, 3, 2]})
print(df)
print(df.groupby('X'), type(df.groupby('X')))
print('-----')
print('--------直接生成list或者元组---------------')
print(list(df.groupby('X')), '→ 可迭代对象，直接生成list\n')
print(list(df.groupby('X'))[0], '→ 以元祖形式显示\n')
for n,g in df.groupby('X'):
    print(n)
    print(g)
    print('###')

# n是组名，g是分组后的Dataframe
print('--------提取分组后的组-----------')
print(df.groupby(['X']).get_group('A'),'\n')
print(df.groupby(['X']).get_group('B'),'\n')
print('-----')
# .get_group()提取分组后的组

print('--------分组后的元素转化为dict-----------')
grouped = df.groupby(['X'])
print(grouped.groups)
print(grouped.groups['A'])  # 也可写：df.groupby('X').groups['A']
# .groups：将分组后的groups转为dict
# 可以字典索引方法来查看groups里的元素

print('---------查看分组后的长度-----------')
sz = grouped.size()
print(sz,type(sz))
# .size()：查看分组后的长度

print('---------按照两列进行分组-----------')
df = pd.DataFrame({'科目' : ['语文', '语文', '语文', '数学','数学'],
                   '姓名' : ['Jack', 'Lucy', 'Alice', 'Mark', 'Jhon'],
                   '性别' : ['man', 'woman', 'woman', 'man', 'man'],
                   '成绩' : [85, 90, 70, 60, 100]})
grouped = df.groupby(['科目','性别']).groups
print(df)
print(grouped)
print('------------------')
print(grouped[('数学', 'man')])
# 按照两个列进行分组

2.3 其他轴上的分组

import pandas as pd
import numpy as np
# 其他轴上的分组

df = pd.DataFrame({'data1':np.random.rand(2),
                  'data2':np.random.rand(2),
                  'key1':['a','b'],
                  'key2':['one','two']})
print(df)
print(df.dtypes)
print('-----')
for n,p in df.groupby(df.dtypes, axis=1):
    print(n)
    print(p)
    print('##')
# 按照值类型分列

2.4 通过字典或者Series分组

import pandas as pd
import numpy as np
# 通过字典或者Series分组

df = pd.DataFrame(np.arange(16).reshape(4,4),
                  columns = ['a','b','c','d'])
print(df)
print('-----')

mapping = {'a':'one','b':'one','c':'two','d':'two','e':'three'}
by_column = df.groupby(mapping, axis = 1)
print(by_column.sum())
print('-----')
# mapping中，a、b列对应的为one，c、d列对应的为two，以字典来分组

s = pd.Series(mapping)
print(s,'\n')
print(s.groupby(s).count())
# s中，index中a、b对应的为one，c、d对应的为two，以Series来分组

2.5 通过函数分组

# 通过函数分组
import pandas as pd
import numpy as np
df = pd.DataFrame(np.arange(16).reshape(4,4),
                  columns = ['a','b','c','d'],
                 index = ['abc','bcd','aa','b'])
print(df,'\n')
print(df.groupby(len).sum())
# 按照字母长度分组

2.6 分组函数计算方法

import pandas as pd
import numpy as np
s = pd.Series([1, 2, 3, 10, 20, 30], index = [1, 2, 3, 1, 2, 3])
grouped = s.groupby(level=0)  # 唯一索引用.groupby(level=0)，将同一个index的分为一组
print(grouped)
print(grouped.first(),'→ first：非NaN的第一个值\n')
print(grouped.last(),'→ last：非NaN的最后一个值\n')
print(grouped.sum(),'→ sum：非NaN的和\n')
print(grouped.mean(),'→ mean：非NaN的平均值\n')
print(grouped.median(),'→ median：非NaN的算术中位数\n')
print(grouped.count(),'→ count：非NaN的值\n')
print(grouped.min(),'→ min、max：非NaN的最小值、最大值\n')
print(grouped.std(),'→ std，var：非NaN的标准差和方差\n')
print(grouped.prod(),'→ prod：非NaN的积\n')

2.7 多函数计算:agg()

import pandas as pd
import numpy as np
df = pd.DataFrame({'a':[1,1,2,2],
                  'b':np.random.rand(4),
                  'c':np.random.rand(4),
                  'd':np.random.rand(4),})
print(df)
print(df.groupby('a').agg(['mean',np.sum]))
print(df.groupby('a')['b'].agg({'result1':np.mean,
                               'result2':np.sum}))
# 函数写法可以用str，或者np.方法
# 可以通过list，dict传入，当用dict时，key名为columns