命名实体识别(Named Entity Recognition,NER)就是从一段自然语言文本中找出相关实体,并标注出其位置以及类型,如下图。它是NLP领域中一些复杂任务(例如关系抽取,信息检索等)的基础。

【神经网络】神经网络结构在命名实体识别(NER)中的应用-LMLPHP

NER一直是NLP领域中的研究热点,从早期基于词典和规则的方法,到传统机器学习的方法,到近年来基于深度学习的方法,NER研究进展的大概趋势大致如下图所示。

【神经网络】神经网络结构在命名实体识别(NER)中的应用-LMLPHP

在基于机器学习的方法中,NER被当作是序列标注问题。与分类问题相比,序列标注问题中当前的预测标签不仅与当前的输入特征相关,还与之前的预测标签相关,即预测标签序列之间是有强相互依赖关系的。例如,使用BIO标签策略进行NER时,正确的标签序列中标签O后面是不会接标签I的

【神经网络】神经网络结构在命名实体识别(NER)中的应用-LMLPHP

在传统机器学习中,条件随机场(Conditional Random Field,CRF)是NER目前的主流模型。它的目标函数不仅考虑输入的状态特征函数,而且还包含了标签转移特征函数。在训练时可以使用SGD学习模型参数。在已知模型时,给输入序列求预测输出序列即求使目标函数最大化的最优序列,是一个动态规划问题,可以使用维特比算法进行解码。

【神经网络】神经网络结构在命名实体识别(NER)中的应用-LMLPHP

在传统机器学习方法中,常用的特征如下:

【神经网络】神经网络结构在命名实体识别(NER)中的应用-LMLPHP

04-29 22:27