找了半天,终于找到毛病了。
日志收集到NFS存储上,linux挂载过来,每个机器开启一个进程,分割日志入库的时候,那个慢啊,没法忍受。刚开始还以为是代码中用正则分割日志行慢,就找了个大文件测试下,不慢啊,python+正则分割还慢的话,只能改用c来写了,不应该怀疑python!
会不会是nfs问题,用dd测试了下读写nfs,大吃一惊,写的速度很快,基本在50M/s上下,读的速度在800k/s,太让人伤心了,让同事弄的那个nfs,哎,不说了。
10-03 22:57