Groupby

示例代码:

import pandas as pd
import numpy as np
df = pd.DataFrame({
  'key1':['a', 'a', 'b', 'b', 'a'],
  'key2':['one', 'two', 'one', 'two', 'one'],
  'data1':np.random.randn(5),
  'data2':np.random.randn(5)
})
grouped = df.groupby(df['key1'])
print(grouped.mean())

------------------------------------------------------------------------------------------------------------------
         data1     data2
key1                    
a    -0.464027 -0.992397
b    -0.629515 -0.391474
  • 可以使用字符串形式的列名:df.groupby('key1')
  • grouped返回的是一个DataFrameGroupBy对象,他没有做任何运算,所以速度非常快。
  • groupby可以接受的参数可以有很多种,比如一个list:
print df.groupby([1,2,2,3,3]).mean()
------------------------------------------------------------------------------------------------------------------

      data1     data2
1 -0.664111  0.964810
2 -0.074053  0.802726
3  0.122837 -0.035785
  • 如果只需要data1的数据,以下几种写法是一样的。
    1. grouped = df['data1'].groupby(df['key1']).mean()
    2. grouped = df.groupby(df['key1'])['data1'].mean()
    3. grouped = df.groupby(df['key1']).mean()['data1']
  • 返回一个层次化的结果:
print grouped = df.groupby([df['key1'],df['key2']]).mean()
------------------------------------------------------------------------------------------------------------------

              data1     data2
key1 key2                    
a    one   0.190639 -1.077724
     two   1.523810 -0.753498
b    one  -1.026170 -0.893146
     two  -0.051379  1.461553

  • 可以用grouped.size()查看分组的大小,比如:
grouped = df.groupby([df['key1'],df['key2']])
print(grouped.size()) #grouped.size()是一个拥有MultiIndex的Series
print(type(grouped.size()))
print(type(grouped.size().index))
------------------------------------------------------------------------------------------------------------------

key1  key2
a     one     2
      two     1
b     one     1
      two     1
dtype: int64
<class 'pandas.core.series.Series'>
<class 'pandas.core.indexes.multi.MultiIndex'>
  • 可以对group对象进行迭代
for i,j in df.groupby([df['key1'],df['key2']]):
    print(i)  # i其实是个tuple
    print('-----------')
    print(j)  # j是个DataFrame
------------------------------------------------------------------------------------------------------------------

('a', 'one')
-----------
      data1     data2 key1 key2
0  0.815046  1.269757    a  one
4 -0.604281 -0.956418    a  one
('a', 'two')
-----------
      data1     data2 key1 key2
1 -0.938286  2.636096    a  two
('b', 'one')
-----------
      data1     data2 key1 key2
2 -0.454884  0.141963    b  one
('b', 'two')
-----------
      data1     data2 key1 key2
3 -1.042242  0.618984    b  two
  • 以函数作为groupby的参数:
print df.groupby(lambda x:'even' if x%2==0 else 'odd').mean()
------------------------------------------------------------------------------------------------------------------

         data1     data2
even  0.645358 -0.642165
odd   0.160585 -0.429005

这个不难理解,单数行和双数行分别作为两组进行聚合。当然,如果给df加一个字符串形式的index,这样的写法就有问题了,因为传进来的x就不能进行对2取余操作了。

  • 可以根据索引进行分组
index = pd.MultiIndex.from_arrays([['even','odd','even','odd','even'],
                                  [0,1,2,3,4]],names=['a','b'])
df.index = index
print(df.groupby(level='a').mean())
------------------------------------------------------------------------------------------------------------------

         data1     data2
a                       
even -0.113491  0.730719
odd   0.076897  0.016876
  • 除了内置的函数比如mean(),sum()等,还可以自定义聚合函数:
df.groupby('key1')['data1','data2'].agg(lambda arr:arr.max()-arr.min())
------------------------------------------------------------------------------------------------------------------
         data1     data2
key1                    
a     2.508309  2.334477
b     0.107973  0.203492

2.508309其实就是取出'key1==a'的所有data1的值,组成一个数组。然后用最大值减去最小值。其他3项同理。

  • agg可以接受一个函数列表:
print df.groupby('key1')['data1','data2'].agg(['min','max'])
print df.groupby('key1')['data1','data2'].agg(['min','max']).columns
------------------------------------------------------------------------------------------------------------------
         data1               data2          
           min       max       min       max
key1                                        
a    -1.586040  0.922269 -1.312042  1.022435
b     0.527926  0.635899  0.279316  0.482807
MultiIndex(levels=[[u'data1', u'data2'], [u'min', u'max']],labels=[[0, 0, 1, 1], [0, 1, 0, 1]])
  • 或者可以提供一个从列名到函数的映射:
print df.groupby('key1').agg({'data1':'min','data2':'max'})
------------------------------------------------------------------------------------------------------------------

         data1     data2
key1                    
a    -1.586040  1.022435
b     0.527926  0.482807
  • 除了聚合,还可以进行transform()
>>> df
           data1     data2 key1 key2
a    b                              
even 0  0.922269  0.110285    a  one
odd  1 -0.181773  1.022435    a  two
even 2  0.635899  0.279316    b  one
odd  3  0.527926  0.482807    b  two
even 4 -1.586040 -1.312042    a  one
[5 rows x 4 columns]

>>> df.groupby('key1').transform('mean')
           data1     data2
a    b                    
even 0 -0.281848 -0.059774
odd  1 -0.281848 -0.059774
even 2  0.581912  0.381061
odd  3  0.581912  0.381061
even 4 -0.281848 -0.059774

其实就是.mean()以后又把结果反向传播到df

参考:https://my.oschina.net/lionets/blog/280332

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,561评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,218评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,162评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,470评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,550评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,806评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,951评论 3 407
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,712评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,166评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,510评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,643评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,306评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,930评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,745评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,983评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,351评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,509评论 2 348

推荐阅读更多精彩内容