1. 命名实体用来做什么?

在自然语言处理应用领域中,命名实体识别是信息检索、知识图谱、机器翻译、情感分析、问答系统等多项自然语言处理应用的基础任务,例如,我们需要利用命名实体识别技术自动识别用户的查询,然后将
查询中的实体链接到知识图谱对应的结点上其识别的准确率将会直接影响到后续的一系列工作。

2. 命名实体识别有哪些难点?

* 命名实体在不同领域或不同场景下的识别具有较大的差异
。目前已标注的语料通常局限于某些领域,难以适用于其他语料,例如:基于新闻语料进行训练,然后在社交语料进行测试,测试的结果往往难以达到理想的效果,因为社交语料中存在大量非规范的用语。
* 命名实体识别标注成本较大
,目前命名实体识别标注语料较少,如何从较少的语料中学习到较好的模型,或者借助其他相似任务语料以及大量未标记的语料进行学习,这给命名实体识别提出了新的挑战。
* 中文命名实体识别中“字”的边界是确定的,但是“词”的边界是模糊的,因此通常会出现一些语义理解歧义
的情况,例如:“让人大吃一惊”这句话存在两种分词方案,“让/人大/吃一惊”和“让人/大吃一惊”,这两种分词方案的语句意思完全不一样。中文命名实体识别通常要与中文分词、浅层语法分析等过程相结合,而
分词、语法分析的准确率直接影响了命名实体识别的效果。
* 待识别的文本中存在着大量的未登录词,即新的实体词,随着时间的推移,我们难以维护这些新词。
3 现有研究

基于统计模型的命名实体识别方法归纳

4 CRF( Conditional Random Fields,条件随机场)

4.1 条件随机场介绍

四种模型对比

在给定观察序列X时,某个特定标记序列Y的概率可以定义为

4.2 CRF的参数估计

4.3 预测

 

5 实验

1998年人民日报测试语料

 

#sentence

#PER

#LOC

#ORG

train

46364

17615

36517

20571

test

4365

1973

2877

1331

技术
©2019-2020 Toolsou All rights reserved,
ajax get请求中文参数乱码解决shiro-oauth 启用第三方认证登录TypeScript中的数据类型这一篇就够了关于Bellman-Ford算法的个人理解11-5 指定位置输出字符串TypeScript-多态篇科幻成真!“三体”被发现了(精华)2020年8月15日 redis数据库 StackExchange.Redis中Set类型(C#版)Fiddler模拟请求发送和修改响应数据el-select同时获取label和value值