python - scikit为什么不能正确学习 token 生成器对utf-8(葡萄牙语)文本进行 token 化？

这是一些文本，在numpy ndarray中只有两个字符串：

titles
>>> array(['"a onda": como a psicologia social pode explicar a ação dos grupos?',
       '"beba menos mas beba melhor": entenda o lema da cerveja artesanal'],
      dtype=object)

我期望sklearn的CountVectorizer中的vectorizer能正确分割单词，但似乎没有（请注意，它未能对单词“ação”进行标记化，它删除了无法理解的字符）：

cv=CountVectorizer()
cv.fit(titles)

tokenizer = cv.build_tokenizer()
[tokenizer(s) for s in titles]

[['onda',
  'como',
  'psicologia',
  'social',
  'pode',
  'explicar',
  'ac', ## <<<< sklearn failed to identify the word "ação"
  'dos',
  'grupos'],
 ['beba',
  'menos',
  'mas',
  'beba',
  'melhor',
  'entenda',
  'lema',
  'da',
  'cerveja',
  'artesanal']]

我正在使用sklearn版本0.21.2和Python版本3.6.7。

最佳答案

CountVectorizer [scikit-doc]使用token_pattern参数，默认情况下为(?u)\b\w\w+\b。

现在，\w不幸地执行not capture combining diacritics。但是，可能有解决方法。我们可以改为传递以下正则表达式：

cv = CountVectorizer(token_pattern=r'\b(?:[^\s]){2,}\b')

这似乎适用于您给定的输入：

>>> [tokenizer(s) for s in data]
[['onda',
  'como',
  'psicologia',
  'social',
  'pode',
  'explicar',
  'ação',
  'dos',
  'grupos'],
 ['beba',
  'menos',
  'mas',
  'beba',
  'melhor',
  'entenda',
  'lema',
  'da',
  'cerveja',
  'artesanal']]

但是我对带有许多变音符号的语言不是很熟悉，无法测试这是否适用于所有可能的变音符号。