我想将我的数据框(以cpu有效的方式编辑)减少为具有对c3,c4对的唯一值的行,同时保留所有列。换句话说,我想转换我的数据框
> df <- data.frame(c1=seq(7), c2=seq(4, 10), c3=c("A", "B", "B", "C", "B", "A", "A"), c4=c(1, 2, 3, 3, 2, 2, 1))
c1 c2 c3 c4
1 1 4 A 1
2 2 5 B 2
3 3 6 B 3
4 4 7 C 3
5 5 8 B 2
6 6 9 A 2
7 7 10 A 1
到数据框
c1 c2 c3 c4
1 1 4 A 1
2 2 5 B 2
3 3 6 B 3
4 4 7 C 3
6 6 9 A 2
其中c1和c2的值可以是出现在唯一的一对c3,c4上的任何值。同样,所得数据帧的顺序也不重要。
编辑:我的数据框大约有25万行和12列,应该按2列分组–因此,我需要一个CPU效率高的解决方案。
工作但不令人满意的替代方案
我解决了这个问题
> library(sqldf)
> sqldf("Select * from df Group By c3, c4")
但是为了加速和并行化我的程序,我必须消除对sqldf的调用。
编辑:当前sqldf解决方案的时钟为3.5秒。我认为这是一个体面的时光。问题是我无法并行启动各种查询,因此我正在寻找另一种方法。
不工作的尝试
重复()
> df[duplicated(df, by=c("c3", "c4")),]
[1] c1 c2 c3 c4
<0 rows> (or 0-length row.names)
选择重复的行,而不选择仅c3和c4列重复的行。
骨料()
> aggregate(df, by=list(df$c3, df$c4))
Error in match.fun(FUN) : argument "FUN" is missing, with no default
集合要求将函数应用于所有具有相同c3和c4值的行
数据表的作者
> library(data.table)
> dt <- data.table(df)
> dt[,list(c1, c2) ,by=list(c3, c4)]
c3 c4 c1 c2
1: A 1 1 4
2: A 1 7 10
3: B 2 2 5
4: B 2 5 8
5: B 3 3 6
6: C 3 4 7
7: A 2 6 9
不踢出具有c3和c4的非唯一值的行,而
> dt[ ,length(c1), by=list(c3, c4)]
c3 c4 V1
1: A 1 2
2: B 2 2
3: B 3 1
4: C 3 1
5: A 2 1
确实会丢弃c1和c2的值,并将它们减小为通过传递的函数
length
指定的一维。 最佳答案
这是一个数据表解决方案。
library(data.table)
setkey(setDT(df),c3,c4) # convert df to a data.table and set the keys.
df[,.SD[1],by=list(c3,c4)]
# c3 c4 c1 c2
# 1: A 1 1 4
# 2: A 2 6 9
# 3: B 2 2 5
# 4: B 3 3 6
# 5: C 3 4 7
您提出的SQL似乎提取了具有(c3,c4)给定组合的第一行-我认为这就是您想要的。
编辑:对OP的评论的回应。
您引用的结果似乎很奇怪。下面的基准测试在具有12列和2.5e5行的数据集上显示,data.table解决方案在不设置键的情况下运行约25毫秒,在设置键的情况下运行约7毫秒。
set.seed(1) # for reproducible example
df <- data.frame(c3=sample(LETTERS[1:10],2.5e5,replace=TRUE),
c4=sample(1:10,2.5e5,replace=TRUE),
matrix(sample(1:10,2.5e6,replace=TRUE),nc=10))
library(data.table)
DT.1 <- as.data.table(df)
DT.2 <- as.data.table(df)
setkey(DT.2,c3,c4)
f.nokeys <- function() DT.1[,.SD[1],by=list(c3,c4)]
f.keys <- function() DT.2[,.SD[1],by=list(c3,c4)]
library(microbenchmark)
microbenchmark(f.nokeys(),f.keys(),times=10)
# Unit: milliseconds
# expr min lq median uq max neval
# f.nokeys() 23.73651 24.193129 24.609179 25.747767 26.181288 10
# f.keys() 5.93546 6.207299 6.395041 6.733803 6.900224 10
您的数据集与该数据集有何不同?