我是文本挖掘的新手,我需要从* .txt文件中提取日期并对它们进行排序。日期在句子之间(每行),其格式可能如下:
04/20/2009; 04/20/09; 4/20/09; 4/3/09
Mar-20-2009; Mar 20, 2009; March 20, 2009; Mar. 20, 2009; Mar 20 2009;
20 Mar 2009; 20 March 2009; 20 Mar. 2009; 20 March, 2009
Mar 20th, 2009; Mar 21st, 2009; Mar 22nd, 2009
Feb 2009; Sep 2009; Oct 2010
6/2008; 12/2009
2009; 2010
如果缺少日期,请考虑1日;如果缺少月份,请考虑1月。
我的想法是提取所有日期并将其转换为mm / dd / yyyy格式。但是我对如何查找和替换模式有些怀疑。这就是我所做的:
import pandas as pd
doc = []
with open('dates.txt') as file:
for line in file:
doc.append(line)
df = pd.Series(doc)
df2 = pd.DataFrame(df,columns=['text'])
def myfunc(x):
if len(x)==4:
x = '01/01/'+x
else:
if not re.search('/',x):
example = re.sub('[-]','/',x)
terms = re.split('/',x)
if (len(terms)==2):
if len(terms[-1])==2:
x = '01/'+terms[0]+'/19'+terms[-1]
else:
x = '01/'+terms[0]+'/'+terms[-1]
elif len(terms[-1])==2:
x = terms[0].zfill(2)+'/'+terms[1].zfill(2)+'/19'+terms[-1]
return x
df2['text'] = df2.text.str.replace(r'(((?:\d+[/-])?\d+[/-]\d+)|\d{4})', lambda x: myfunc(x.groups('Date')[0]))
我只对数字日期格式进行过处理。但是我对如何用机密日期感到困惑。
我知道这是一个粗糙的代码,但这就是我所得到的。
最佳答案
我认为这是Coursera文本挖掘作业之一。好了,您可以使用正则表达式并提取以获取解决方案。 dates.txt即
doc = []
with open('dates.txt') as file:
for line in file:
doc.append(line)
df = pd.Series(doc)
def date_sorter():
# Get the dates in the form of words
one = df.str.extract(r'((?:\d{,2}\s)?(?:Jan|Feb|Mar|Apr|May|Jun|Jul|Aug|Sep|Oct|Nov|Dec)[a-z]*(?:-|\.|\s|,)\s?\d{,2}[a-z]*(?:-|,|\s)?\s?\d{2,4})')
# Get the dates in the form of numbers
two = df.str.extract(r'((?:\d{1,2})(?:(?:\/|-)\d{1,2})(?:(?:\/|-)\d{2,4}))')
# Get the dates where there is no days i.e only month and year
three = df.str.extract(r'((?:\d{1,2}(?:-|\/))?\d{4})')
#Convert the dates to datatime and by filling the nans in two and three. Replace month name because of spelling mistake in the text file.
dates = pd.to_datetime(one.fillna(two).fillna(three).replace('Decemeber','December',regex=True).replace('Janaury','January',regex=True))
return pd.Series(dates.sort_values())
date_sorter()
输出:
9 1971-04-10
84 1971-05-18
2 1971-07-08
53 1971-07-11
28 1971-09-12
474 1972-01-01
153 1972-01-13
13 1972-01-26
129 1972-05-06
98 1972-05-13
111 1972-06-10
225 1972-06-15
1972年7月31日
171 1972-10-04
191 1972-11-30
486 1973-01-01
335 1973-02-01
415 1973-02-01
36 1973-02-14
405 1973-03-01
323 1973-03-01
422 1973-04-01
375 1973-06-01
380 1973-07-01
345 1973-10-01
57 1973-12-01
481 1974-01-01
436 1974-02-01
104 1974-02-24
299 1974-03-01
如果只想返回索引,则
return pd.Series(dates.sort_values().index)
解析第一个正则表达式
#?:非捕获组
((?:\ d {,2} \ s)?#两位数字组。`?表示前一个标记或组。此处的2或1数字和空格出现一次或更少。
(?:Jan | Feb | Mar | Apr | May | Jun | Jul | Aug | Sep | Oct | Nov | Dec)[az] *#组中以任何字母“ []”结尾的单词出现了多次( *)。
(?:-| \。| \ s |,)#模式匹配-,。,space
\ s? #(`?`此处仅暗示要间隔,即前面的标记)
\ d {,2} [a-z] *#小于等于两个数字,末尾有任意数量的字母(`*`)。 (例如:可能是1月1日,13日,22日,1月,12月等)。
(?:-|,| \ s)?#字符-/,/ space可能只出现一次,而由于末尾的'?`可能不会出现
\ s? #空间可能会出现或根本不会出现(最大为1)(这里的“?”仅指空格)
\ d {2,4})#匹配数字2或4
希望能帮助到你。