我有以下以秒为单位记录的数据:http://pastebin.com/wBSJWYn2
我想每隔1分钟就捕获一次各种夏季统计数据,例如平均值,方差等。因此,我在sensor_data.rolling(window=1,freq="1MIN")
上运行这些功能。在大多数情况下,它可以正常工作,但是对于某些类型的功能,我无法克服两种不规则性。具体而言,可以:
在不完整的分钟内没有输出-在没有全部60秒的分钟内没有输出。 mean(), quantile(), sum()
就是这种情况
完全没有输出。对于某些功能,例如var(), std(), kurt(), skew()
,我根本没有任何值。考虑到它能够计算平均值,我真的不明白为什么会这样。
其他功能似乎可以正常使用:max(), median(), min()
我真的很在乎第二个问题,但是对于第一个问题也可以得到解决...
sensor_data.head()
x_acceleration y_acceleration z_acceleration heart_rate electrodermal_activity temperature
index
2016-05-16 06:58:44 -33.25000 -43.03125 33.09375 NaN 0.297099 33.33
2016-05-16 06:58:45 -28.15625 -52.90625 24.12500 NaN 0.219612 33.33
2016-05-16 06:58:46 -25.87500 -55.96875 21.18750 NaN 0.222648 33.33
2016-05-16 06:58:47 -24.00000 -57.46875 19.40625 NaN 0.217335 33.33
2016-05-16 06:58:48 -22.84375 -56.25000 23.40625 NaN 0.214300 33.33
第一种情况的示例输出-不完整的分钟没有输出:
sensor_data.rolling(window=1,freq="1MIN").mean().head()
x_acceleration y_acceleration z_acceleration heart_rate electrodermal_activity temperature
index
2016-05-16 06:58:00 NaN NaN NaN NaN NaN NaN
2016-05-16 06:59:00 -24.84375 -59.46875 9.03125 68.57 0.208988 33.75
2016-05-16 07:00:00 6.31250 -62.78125 6.46875 79.40 0.224924 33.84
2016-05-16 07:01:00 -21.18750 -57.00000 22.50000 92.00 0.224165 34.13
2016-05-16 07:02:00 -17.46875 -58.87500 21.84375 81.10 0.224165 34.25
第二种情况的示例输出-无输出:
sensor_data.rolling(window=1,freq="1MIN").var().head()
x_acceleration y_acceleration z_acceleration heart_rate electrodermal_activity temperature
index
2016-05-16 06:58:00 NaN NaN NaN NaN NaN NaN
2016-05-16 06:59:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:00:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:01:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:02:00 NaN NaN NaN NaN NaN NaN
最佳答案
对于初学者,这将带您前进。
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).describe()
您可以构建一个自定义函数:
def stats(df):
kurt = pd.DataFrame(df.kurt(), columns=['kurt']).T
skew = pd.DataFrame(df.skew(), columns=['skew']).T
var = pd.DataFrame(df.var(), columns=['var']).T
return pd.concat([df.describe(), var, skew, kurt])
然后:
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).apply(stats)
编辑:
结合@Jeff的评论:
funcs = {
'Count': 'count',
'Var': np.var,
'Std': np.std,
'Mean': np.mean,
'Min': np.min,
'25%': lambda x: x.quantile(.25),
'50%': np.median,
'75%': lambda x: x.quantile(.75),
'Max': np.max,
'Skew': 'skew',
'Kurt': lambda x: x.kurt(),
}
cols = sensor_data.columns
这是功能的完整列表。
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).agg({c: funcs for c in cols}).stack()
看起来像:
定时
%%timeit
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).agg({c: funcs for c in cols}).stack()
10 loops, best of 3: 121 ms per loop
%%timeit
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).apply(stats).dropna()
1 loop, best of 3: 221 ms per loop
看来
agg
大约快一倍。关于python - Python: Pandas :滚动Windows-mean()有效,但是variant()不可行?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/37848021/