我正在努力使用pandas
根据2个groupby
条件进行过滤
假设我有以下数据:
每行分别表示来自2个数据源(id1
,id2
)的事物(src1
,src2
)的比较
分数表示事物之间的相似程度(越高越好)
data = [
{'src1': 'A', 'id1': '111', 'src2': 'B', 'id2': '111', 'score': 10},
{'src1': 'A', 'id1': '222', 'src2': 'B', 'id2': '222', 'score': 9},
{'src1': 'A', 'id1': '111', 'src2': 'B', 'id2': '222', 'score': 2},
{'src1': 'A', 'id1': '222', 'src2': 'B', 'id2': '111', 'score': 4},
{'src1': 'A', 'id1': 'default', 'src2': 'B', 'id2': '111', 'score': 3},
{'src1': 'A', 'id1': 'default', 'src2': 'B', 'id2': '222', 'score': 3},
]
我想做的是groupby src1 + id1 + src2并仅保留得分最高且count = 1的行
这是我的代码:
df = pd.DataFrame(data)
df['count'] = 1
groups = df.groupby(['src1', 'id1', 'src2', 'score']).agg(
{'id2': 'unique', 'count': 'sum'})
print(groups)
我得到以下信息:
id2 count
src1 id1 src2 score
A 111 B 2 [222] 1 # DISCARD because below has higher score (10>2)
10 [111] 1 # KEEP
222 B 4 [111] 1 # DISCARD because below has higher score (9>4)
9 [222] 1 # KEEP
default B 3 [111, 222] 2 # DISCARD because count=2
我遇到的问题:
WITHOUT reset_index()
:如果我不使用reset_index()
,每当我尝试访问分数或计数以进行过滤时,都会收到KeyErrorgroups = df.groupby(['src1', 'id1', 'src2', 'score']).agg(
{'id2': 'unique', 'count': 'sum'})
groups[groups['score'] == groups['score'].max()]
KeyError: 'score'
reset_index()
:如果我使用它,那么我会“丢失”我的分组依据(即每行变成一个新的单独行,而我的过滤结果仅会导致1行reset = groups.reset_index()
reset[reset['score'] == reset['score'].max()]
src1 id1 src2 score count id2
1 A 111 B 10 1 [111]
如何在表达式下方扩展,以便对
EACH GROUP
和ONLY KEEP
分组的MAX score
行?groups = df.groupby(['src1', 'id1', 'src2', 'score']).agg(
{'id2': 'unique', 'count': 'sum'})
最佳答案
使用GroupBy.transform
进行获取计数而无需使用GroupBy.size
来创建新的辅助列,然后使用不同的分组列获取相似的get max
值,使用boolean indexing
进行比较和过滤,并使用&
链接的条件通过bitwise AND
进行过滤:
m1 = df.groupby(['src1', 'id1', 'src2', 'score'])['id1'].transform('size') <= 1
m2 = df.groupby(['src1', 'id1', 'src2'])['score'].transform('max') == df['score']
df = df[m1 & m2]
print (df)
id1 id2 score src1 src2
0 111 111 10 A B
1 222 222 9 A B
您的解决方案应更改:
df['count'] = 1
groups = df.groupby(['src1', 'id1', 'src2', 'score']).agg(
{'id2': 'unique', 'count': 'sum'})
m1 = groups['count'] <= 1
df = groups.reset_index(level=3)
m2 = (df.groupby(level=[0,1,2])['score'].transform('max') == df['score']).values
groups = groups[m1 & m2]
print (groups)
id2 count
src1 id1 src2 score
A 111 B 10 [111] 1
222 B 9 [222] 1
关于python - 保持每个组的最高单场比赛,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/56238753/