一种网页内容的地理位置预测方法及装置与流程

文档序号:19943667发布日期:2020-02-14 23:33
一种网页内容的地理位置预测方法及装置与流程

本发明涉及计算机技术领域,特别是涉及一种网页内容的地理位置预测方法及装置。



背景技术:

互联网每天都会产生大量的文本资源,这些文本资源中含有大量信息,待处理网页内容预测就是挖掘文本资源中的大量信息中的位置信息,位置信息表示文本资源中与地理位置有关的名词,实现互联网文本资源到位置的映射。

现有技术在进行待处理网页内容地理位置预测时,先获取一个网页页面的文本内容,利用命名实体识别方法提取出文本内容中所有地理实体,命名实体识别指识别文本中具有特定意义的实体,地理实体表示文本内容中的包含地理位置信息的名词。然后根据地理实体的词频、在文本中的位置等信息,利用一定的方法(如pagerank算法、核密度估计算法、启发式算法等)去评估每个地理实体对于文本的重要程度或者地理实体的大致集中分别区域,从而实现整篇文本内容的地理位置预测。

现有技术仅提取待处理网页内容中的地理实体进行预测,没有提取网页页面文本内容中的关键词,而有些关键词中与提取出的地理实体关联密切,因此,会导致待处理网页内容地理位置预测结果不准的问题。



技术实现要素:

本发明实施例的目的在于提供一种网页内容的地理位置预测方法及系统,用以解决网页内容地理位置预测结果不准的问题。具体技术方案如下:

第一方面,本发明实施例提供了一种网页内容的地理位置预测方法,所述方法包括:

获取待处理网页内容中的多个第一地理实体和多个第一关键词,所述第一地理实体为包含地理位置信息的名词,所述关键词为所述待处理网页内容中除所述第一地理实体以外的其他名词;

生成包含所述多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含所述多个第一关键词的名称信息和词频的关键词集合;

将所述地理实体集合中的第一地理实体在知识图谱中匹配到的第二地理实体确定为候选地理实体,其中,所述知识图谱中包含所述第二地理实体与第二关键词间的对应关系,所述第二地理实体与第二关键词间的对应关系的权重以及第二地理实体间的对应关系,且所述知识图谱中的各第二地理实体间具有层级关系,所述层级关系用于表示第二地理实体间的地理范围的包含关系,所述第二关键词为所述知识图谱中除所述第二地理实体以外的其他名词;

针对得到的候选地理实体,在所述知识图谱中查找目标关键词,所述目标关键词为与所述候选地理实体对应的、且在所述关键词集合中具有相同名称的第一关键词的第二关键词,并确定所述目标关键词与该候选地理实体间对应关系的权重;

针对所述候选地理实体以及该候选地理实体对应的目标关键词,基于该候选地理实体所匹配的第一地理实体在所述地理实体集合中的词频,所述目标关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述目标关键词与该候选地理实体间对应关系的权重,计算所述候选地理实体的重要程度值,所述候选地理实体的重要程度值用于衡量该候选地理实体的重要程度;

根据预设的过滤规则,对所述候选地理实体进行过滤,得到过滤后的候选地理实体,所述过滤规则基于所述候选地理实体的重要程度值,及所述候选地理实体间的层级关系确定;

将过滤后得到的候选地理实体确定为所述待处理网页内容的地理位置预测结果。

可选的,所述知识图谱的构建过程包括:

获取目标文本内容,所述目标文本内容为:包含预设地名的网页页面对应的文本内容;

提取所述目标文本内容中的多个第三地理实体、多个第三关键词、目标对应关系以及及第三地理实体间的对应关系,所述目标对应关系为:所述多个第三地理实体和所述多个第三关键词中,具有关联属性的第三地理实体和第三关键词之间的关系;

使用递归算法从所述第三地理实体间的对应关系中提取第三地理实体间的层级关系;

利用具有所述目标对应关系的第三地理实体各和第三关键词,所述目标对应关系所述第三地理实体间的对应关系以及所述层级关系,构建初始知识图谱;

计算所述目标对应关系的权重,并将所述目标对应关系的权重添加至初始知识图谱中,得到所述知识图谱。

可选的,所述计算所述目标对应关系的权重的步骤,包括:

将一个所述目标对应关系,以及具有所述目标对应关系的一个第三地理实体和一个第三关键词,确定为一个三元组;

将所述第三地理实体间的对应关系,以及具有所述对应关系的两个第三地理实体,确定为一个三元组;

利用第一预设表达式,计算置信度,所述置信度表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,在三元组总个数中的比例,

所述第一预设表达式为:

其中,tr表示所述置信度,tc表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,ttc表示三元组总个数;

利用第二预设表达式,计算各所述第二关键词的稀缺度,所述第二预设表达式为:

式中,egda表示一个所述第二关键词的稀缺度,ec表示所述初始知识图谱的边数,其中,所述初始知识图谱中的边表示一个所述第二地理实体与一个所述第二关键词间的对应关系或所述第二地理实体间的对应关系,ed表示所述第二关键词在所述初始知识图谱中具有的边数;

利用第三预设表达式,计算所述目标对应关系的权重,所述第三预设表达式为:

ew=tr*egda

式中,ew表示所述目标对应关系的权重,tr表示所述置信度,egda表示一个所述第二关键词的稀缺度。

可选的,所述方法还包括:

将所述关键词集合中的第一关键词与知识图谱中的第二关键词进行匹配,得到匹配关键词;

在所述知识图谱中查找与所述匹配关键词对应的第二地理实体;

将查找到的第二地理实体确定为候选地理实体,并为所述候选地理实体设置初始词频;

针对确定的候选地理实体,确定所述匹配关键词与该候选地理实体间对应关系的权重;

针对所述候选地理实体以及该候选地理实体对应的匹配关键词,基于该候选地理实体的初始词频,所述匹配关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述匹配关键词与该候选地理实体间对应关系的权重,计算所述重要程度值。

可选的,所述计算所述候选地理实体的重要程度值的步骤,包括:

针对所述候选地理实体所匹配的第一地理实体,将该第一地理实体在所述地理实体集合中的词频,所述目标关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述目标关键词与该候选地理实体间对应关系的权重相乘,得到乘积结果;

将所述乘积结果确定为所述候选地理实体的重要程度值。

可选的,所述根据预设的过滤规则,对所述候选地理实体进行过滤的步骤,包括:

针对所述候选地理实体集合中的各所述候选地理实体,删除目标删除候选地理实体,所述目标删除候选地理实体为所述候选地理实体集合中所述重要程度值小于第一预设重要程度阈值的所述候选地理实体,并将最高重要程度值候选地理实体移至新的候选地理实体集合,所述最高重要程度值候选地理实体为具有最高的所述重要程度值的所述候选地理实体;

针对删除所述目标删除候选地理实体及移出所述最高重要程度值候选地理实体后的所述候选地理实体集合,将剩余的候选地理实体的所述重要程度值,分别与所述最高重要程度值候选地理实体的所述重要程度值作差,得到多个差值;

将所述差值小于第二预设重要程度阈值的所述候选地理实体移至所述新的候选地理实体集合;

针对所述新的候选地理实体集合中的各所述候选地理实体,将层级最低的所述候选地理实体确定为所述过滤后的候选地理实体。

第二方面,本发明实施例提供了一种网页内容的地理位置预测装置,所述装置包括:

第一获取???,用于获取待处理网页内容中的多个第一地理实体和多个第一关键词,所述第一地理实体为包含地理位置信息的名词,所述关键词为所述待处理网页内容中除所述第一地理实体以外的其他名词;

生成???,用于生成包含所述多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含所述多个第一关键词的名称信息和词频的关键词集合;

第一匹配???,用于将所述地理实体集合中的第一地理实体在知识图谱中匹配到的第二地理实体确定为候选地理实体,其中,所述知识图谱中包含所述第二地理实体与第二关键词间的对应关系,所述第二地理实体与第二关键词间的对应关系的权重以及第二地理实体间的对应关系,且所述知识图谱中的各第二地理实体间具有层级关系,所述层级关系用于表示第二地理实体间的地理范围的包含关系,所述第二关键词为所述知识图谱中除所述第二地理实体以外的其他名词;

第一查找???,用于针对得到的候选地理实体,在所述知识图谱中查找目标关键词,所述目标关键词为与所述候选地理实体对应的、且在所述关键词集合中具有相同名称的第一关键词的第二关键词,并确定所述目标关键词与该候选地理实体间对应关系的权重;

第一计算???,用于针对所述候选地理实体以及该候选地理实体对应的目标关键词,基于该候选地理实体所匹配的第一地理实体在所述地理实体集合中的词频,所述目标关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述目标关键词与该候选地理实体间对应关系的权重,计算重要程度值,所述候选地理实体的重要程度值用于衡量该候选地理实体的重要程度;

过滤???,用于根据预设的过滤规则,对所述候选地理实体进行过滤,得到过滤后的候选地理实体,所述过滤规则基于所述候选地理实体的重要程度值,及所述候选地理实体间的层级关系确定;

第一确定???,用于将过滤后得到的候选地理实体确定为所述待处理网页内容的地理位置预测结果。

可选的,所述装置还包括:

第二获取???,用于获取目标文本内容,所述目标文本内容为:包含预设地名的网页页面对应的文本内容;

第一提取???,用于提取所述目标文本内容中的多个第三地理实体、多个第三关键词、目标对应关系以及第三地理实体间的对应关系,所述目标对应关系为:所述多个第三地理实体和所述多个第三关键词中,具有关联属性的第三地理实体和第三关键词之间的关系;

第二提取???,用于使用递归算法从所述第三地理实体间的对应关系中提取第三地理实体间的层级关系;

构建???,用于利用具有所述目标对应关系的第三地理实体和第三关键词,所述目标对应关系,所述第三地理实体间的对应关系以及所述层级关系,构建初始知识图谱;

第二计算???,用于计算所述目标对应关系的权重,并将所述目标对应关系的权重添加至初始知识图谱中,得到所述知识图谱。

可选的,所述第二计算???,包括:

第一确定子???,用于将一个所述目标对应关系,以及具有所述目标对应关系的一个第三地理实体和一个第三关键词,确定为一个三元组;

第二确定子???,用于将所述第三地理实体间的对应关系,以及具有所述对应关系的两个第三地理实体,确定为一个三元组;

第一计算子???,用于利用第一预设表达式,计算置信度,所述置信度表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,在三元组总个数中的比例,

所述第一预设表达式为:

式中,tr表示所述置信度,tc表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,ttc表示三元组总个数;

第二计算子???,用于利用第二预设表达式,计算各所述第二关键词的稀缺度,所述第二预设表达式为:

式中,egda表示一个所述第二关键词的稀缺度,ec表示所述初始知识图谱的边数,其中,所述初始知识图谱中的边表示一个所述第二地理实体与一个所述第二关键词间的对应关系或所述第二地理实体间的对应关系,ed表示所述第二关键词在所述初始知识图谱中具有的边数;

第三计算子???,用于利用第三预设表达式,计算所述目标对应关系的权重,所述第三预设表达式为:

ew=tr*egda

式中,ew表示所述目标对应关系的权重,tr表示所述置信度,egda表示一个所述第二关键词的稀缺度。

可选的,所述装置还包括:

第二匹配???,用于将所述关键词集合中的第一关键词与知识图谱中的第二关键词进行匹配,得到匹配关键词;

第二查找???,用于在所述知识图谱中查找与所述匹配关键词对应的第二地理实体;

第二确定???,用于将查找到的第二地理实体确定为候选地理实体,并为所述候选地理实体设置初始词频;

第三确定???,用于针对确定的候选地理实体,确定所述匹配关键词与该候选地理实体间对应关系的权重;

第三计算???,用于针对所述候选地理实体以及该候选地理实体对应的匹配关键词,基于该候选地理实体的初始词频,所述匹配关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述匹配关键词与该候选地理实体间对应关系的权重,计算所述重要程度值。

可选的,所述第一计算???,包括:

第四计算子???,用于针对所述候选地理实体所匹配的第一地理实体,将该第一地理实体在所述地理实体集合中的词频,所述目标关键词在所述关键词集合中具有相同名称的第一关键词的词频,以及所述目标关键词与该候选地理实体间对应关系的权重相乘,得到乘积结果;

第三确定子???,用于将所述乘积结果确定为所述候选地理实体的重要程度值。

可选的,所述过滤???,包括:

删除子???,用于针对所述候选地理实体集合中的各所述候选地理实体,删除目标删除候选地理实体,所述目标删除候选地理实体为所述候选地理实体集合中所述重要程度值小于第一预设重要程度阈值的所述候选地理实体,并将最高重要程度值候选地理实体移至新的候选地理实体集合,所述最高重要程度值候选地理实体为具有最高的所述重要程度值的所述候选地理实体;

第五计算子???,用于针对删除所述目标删除候选地理实体及移出所述最高重要程度值候选地理实体后的所述候选地理实体集合,将剩余的候选地理实体的所述重要程度值,分别与所述最高重要程度值候选地理实体的所述重要程度值作差,得到多个差值;

移动子???,用于将所述差值小于第二预设重要程度阈值的所述候选地理实体移至所述新的候选地理实体集合;

第三确定子???,用于针对所述新的候选地理实体集合中的各所述候选地理实体,将层级最低的所述候选地理实体确定为所述过滤后的候选地理实体。

第三方面,本发明实施例提供了一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;

存储器,用于存放计算机程序;

处理器,用于执行存储器上所存放的程序时,实现上述第一方面所述的方法步骤。

第四方面,本发明实施例提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法步骤。

本发明实施例有益效果:本发明实施例提供的一种网页内容的地理位置预测方法及装置,从待处理网页内容中获取多个地理实体和多个关键词,通过将各地理实体与知识图谱进行匹配,可以了解哪些关键词与地理实体有关联及其关联紧密程度,并基于地理实体的词频,关键词的词频以及关联紧密程度计算地理实体重要程度值,再基于地理实体重要程度值与预设的过滤规则确定待处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,不仅提取了该篇网页内容中的地理实体,还提取了其中的关键词,考虑了关键词对地理位置预测的影响。并且,本发明以知识图谱为工具对网页内容的地理位置进行预测,利用知识图谱具有的推理特性去得到文本中关键词和地理实体之间的联系。因此,待处理网页内容地理预测准确度提高。当然,实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种网页内容的地理位置预测方法的流程图;

图2为本发明实施例中步骤s105的一种流程示意图;

图3为本发明实施例中步骤s106的一种流程示意图;

图4为本发明实施例提供的一种知识图谱的构建的流程图;

图5为本发明实施例中步骤s205的一种流程示意图;

图6为本发明实施例提供的另一种网页内容的地理位置预测方法的流程图;

图7为本发明实施例提供的第一种网页内容的地理位置预测装置的结构示意图;

图8为本发明实施例中的第一计算??榈囊恢纸峁故疽馔?;

图9为本发明实施例中的过滤??榈囊恢纸峁故疽馔?;

图10为本发明实施例提供的第二种网页内容的地理位置预测装置的结构示意图;

图11为本发明实施例中的第二计算??榈囊恢纸峁故疽馔?;

图12为本发明实施例提供的第三种网页内容的地理位置预测装置的结构示意图;

图13为本发明实施例提供的电子设备的一种结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例?;诒痉⒚髦械氖凳├?,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明?;さ姆段?。

如图1所示,本发明实施例提供了一种网页内容的地理位置预测方法,该过程可以包括以下步骤:

s101,获取待处理网页内容中的多个第一地理实体和多个第一关键词。

在本发明实施例中,可以从一些包含多个网址的综合性网站(如网站之家)中获取待处理网页内容。

作为本发明实施例一种可选的实施方式,上述获取待处理网页内容的步骤包括:

步骤a,利用python技术获取综合性网站中多个网址对应的网页页面的网页源代码,其中,网页源代码是在网页制作过程中需要的一些语言,python是一种计算机程序设计语言,可应用于科学计算和统计、人工智能等领域。

步骤b,提取网页源代码中连续纯文本内容,示例性地,可以通过提取网页源代码中p标签中的段落来获取连续纯文本内容,p标签是html(hypertextmarkuplanguage,超文本标记语言)中标记段落的标签,html是网页源代码中的一种。

上述连续纯文本内容可以是待处理网页内容,接着利用中文分词算法对待处理网页内容进行分词,得到多个第一关键词;再利用命名实体识别方法从待处理网页内容中识别出多个第一地理实体。其中,第一地理实体为包含地理位置信息的名词,第一关键词为待处理网页内容中除第一地理实体以外的其他名词,中文分词方法是指将一个汉字序列切分成一个一个单独的词,具体包括基于规则和词典的方法、基于统计机器学习的方法(隐马尔科夫模型、条件随机场模型等);命名实体识别方法是指识别文本中具有特定意义的实体,具体包括基于规则和词典的方法、基于统计机器学习的方法(隐马尔科夫模型、条件随机场模型等)以及混合方法。

s102,生成包含多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含多个第一关键词的名称信息和词频的关键词集合。

在本发明实施例中,上述多个第一关键词中的每一个关键词和多个第一地理实体中的每一个地理实体在待处理网页内容中的词频是不同的,在利用中文分词方法和命名实体识别方法获取到多个第一关键词和多个第一地理实体时,同时也获得了每一个关键词和每一个地理实体在待处理内容中的词频,在后续步骤中,将第一地理实体与第二地理实体进行匹配实际上是将第一地理实体的名称与第二地理实体的名称进行匹配,第一关键词与第二关键词的匹配同理,在计算候选地理实体的重要程度值时可以用第一地理实体的词频和第一关键词的词频,由于第一地理实体和第一关键词在待处理网页内容中出现次数越多,则该第一地理实体和该第一关键词和待处理网页内容的关联程度越大,因此地理实体的词频和第一关键词的词频是计算候选地理实体的重要程度值的参数。

s103,将地理实体集合中的第一地理实体在知识图谱中匹配到的第二地理实体确定为候选地理实体。

在本发明实施例中,当一个第一地理实体与一个第二地理实体的相似度高于一定的阈值时,可以认为该第一地理实体与该第二地理实体匹配,在匹配时可以用模糊匹配算法。知识图谱是用于特定领域中研究主体之间相互关系的图谱,本发明中的知识图谱包含第二地理实体与第二关键词间的对应关系,第二地理实体与第二关键词间的对应关系的权重以及第二地理实体间的对应关系,第二关键词为知识图谱中除第二地理实体以外的其他名词。知识图谱中的一个第二地理实体可以对应多个第二关键词,一个第二地理实体每对应一个第二关键词,就表示该第二地理实体与对应的第二关键词存在对应关系,第二地理实体与第二关键词的对应关系在知识图谱中以三元组的形式表现,示例性地,(北京市,方言,北京话)这个三元组中,“北京市”是第二地理实体,“北京话”是第二关键词,“方言”是它们之间的对应关系。且知识图谱中的第二地理实体间具有层级关系,层级关系用于表示各第二地理实体间的地理范围的包含关系,示例性地,由于“北京市”这个第二地理实体的地理范围包含“海淀区”这个第二地理实体的地理范围,因此“北京市”的层级高于“海淀区”的层级。

s104,针对得到的候选地理实体,在知识图谱中查找目标关键词,并确定目标关键词与该候选地理实体间对应关系的权重。

在本发明实施例中,目标关键词为与候选地理实体对应的、且在关键词集合中具有相同名称的第一关键词的第二关键词??梢栽谥锻计字胁檎液蜓〉乩硎堤宥杂Φ牡诙丶?,若关键词集合中不存在与该第二关键词名称相同的第一关键词,则继续查找该候选地理实体对应的其他第二关键词,直到查找到一个第二关键词,在关键词集合中存在与该第二关键词存在相同名称的第一关键词,则把该第二关键词确定为目标关键词,并确定该目标关键词与该候选地理实体间的权重。只有在关键词集合中具有相同名称的第一关键词的第二关键词才对待处理网页内容有意义,知识图谱是一个中介,查找目标关键词实际上是看从待处理内容中提取的第一关键词中的哪些与第一地理实体有关联,确定目标关键词与该候选地理实体间对应关系的权重实际上是确定与第一地理实体有关联的第一关键词和该第一地理实体的关联程度大小。

s105,针对候选地理实体以及该候选地理实体对应的目标关键词,基于该候选地理实体所匹配的第一地理实体在地理实体集合中的词频,目标关键词在关键词集合中具有相同名称的第一关键词的词频,以及目标关键词与该候选地理实体间对应关系的权重,计算候选地理实体的重要程度值。

示例性地,候选地理实体为“北京市”,且在地理实体集合中存在“北京市”这个第一地理实体,则该候选地理实体与该第一地理实体匹配,“北京市”在地理实体集合中的词频是10。其对应的目标关键词是“北京话”,在关键词集合中也存在“北京话”,则“北京话”是名称相同的第一关键词,其在关键词集合中的词频为5。在知识图谱中,“北京市”与“北京话”间对应关系的权重为0.6,则将10乘以5再乘以0.6,得到30这个乘积结果,30就是候选地理实体的重要程度值。

作为本发明实施例一种可选的实施方式,如图2所示,上述步骤s105具体包括:

s1051,针对候选地理实体所匹配的第一地理实体,将该第一地理实体在地理实体集合中的词频,目标关键词在关键词集合中具有相同名称的第一关键词的词频,以及目标关键词与该候选地理实体间对应关系的权重相乘,得到乘积结果。

在本发明实施例中,由于具有相同名称的第一关键词的词频,匹配的第一地理实体在地理实体集合中的词频以及目标关键词与候选地理实体间对应关系的权重都会对候选地理实体的重要程度值产生影响,因此要把它们相乘。

s1052,将乘积结果确定为候选地理实体的重要程度值。

上述步骤s1051-s1052可以针对的是候选地理实体只对应一个目标关键词的情况,当候选地理实体对应多个目标关键词时,可以参考下述实施例的描述。

作为本发明实施例一种可选的实施方式,本发明实施例还提供了一种计算该候选地理实体重要程度值的方法:

若一个候选地理实体对应多个目标关键词时,将候选地理实体初始重要程度值设置为0。

每查找到一个该候选地理实体对应的目标关键词,则该候选地理实体的初始重要程度值增加,增加的内容为该候选地理实体与该目标关键词间对应关系的权重与该目标关键词在关键词集合中具有相同名称的第一关键词的词频的乘积。

直至该候选地理实体对应的所有目标关键词查找完毕,则将该候选地理实体的初始重要程度值与该候选地理实体匹配的第一地理实体在地理实体集合中的词频相乘。

将乘积结果确定为该候选地理实体的重要程度值。

参考图1,s106,根据预设的过滤规则,对候选地理实体进行过滤,得到过滤后的候选地理实体。

在本发明实施例中,过滤规则基于候选地理实体的重要程度值,及候选地理实体间的层级关系确定。

在本发明实施例中,过滤规则的严重程度与预设的重要程度阈值相关,通过预设的重要程度阈值与各候选地理的重要程度值的比较、计算,可以衡量一个候选地理实体是否可以作为待处理网页内容地理位置预测结果。另外,过滤规则与候选地理实体的层级关系直接相关,可以只保留层级最低的候选地理实体。

作为本发明实施例一种可选的实施方式,如图3所示,上述步骤s106具体包括:

s1061,针对候选地理实体集合中的各候选地理实体,删除目标删除候选地理实体,并将最高重要程度值候选地理实体移至新的候选地理实体集合。

其中,目标删除候选地理实体为候选地理实体集合中重要程度值小于第一预设重要程度阈值的候选地理实体,最高重要程度值候选地理实体为具有最高的重要程度值的候选地理实体。需要说明的是,上述第一预设重要程度阈值可以由技术人员根据实际业务需求设置,本发明实施例不做具体限定。

在本发明实施例中,各候选地理实体都有可能作为待处理网页内容的地理位置预测结果,重要程度值是衡量一个候选地理实体作为待处理网页内容的地理位置预测结果的可能性大小的一个参数。由于一个候选地理实体的重要程度值与该地理实体作为待处理网页内容的地理位置预测结果的可能性成正比,因此,需要将重要程度值小于第一预设重要程度阈值的候选地理实体删除,将最高重要程度值候选地理实体移至新的候选地理实体集合。

s1062,针对删除目标删除候选地理实体及移出最高重要程度值候选地理实体后的候选地理实体集合,将剩余的候选地理实体的重要程度值,分别与最高重要程度值候选地理实体的重要程度值作差,得到多个差值。

s1063,将差值小于第二预设重要程度阈值的候选地理实体移至新的候选地理实体集合。

若一个候选地理实体的重要程度值与最高重要程度值候选地理实体的重要程度值差值在一定的范围内,说明该候选地理实体作为待处理网页内容的地理位置预测结果的可能性也很大,则应该把该候选地理实体移至新的候选地理实体集合。需要说明的是,上述第二预设重要程度阈值可以由技术人员根据实际业务需求设置,本发明实施例不做具体限定。

s1064,针对新的候选地理实体集合中的各候选地理实体,将层级最低的候选地理实体确定为过滤后的候选地理实体。

在本发明实施例中,新的候选地理实体集合中的候选地理实体的重要程度值都较高,这时,需要用到新的候选地理实体集合中的候选地理实体的层级进一步确定各候选地理实体作为待处理网页内容的地理位置预测结果的可能性大小,若一个候选地理实体的层级越低,则作为预测结果的精确度就越高。因此,可以将层级最低的候选地理实体确定为过滤后的候选地理实体,层级最低的候选地理实体可能有多个。

参考图1,s107,将过滤后得到的候选地理实体确定为待处理网页内容的地理位置预测结果。

示例性地,过滤后得到的候选地理实体为“北京市”,则将“北京市”确定为待处理网页内容的地理位置预测结果。

本发明实施例提供的一种网页内容的地理位置预测方法,从待处理网页内容中获取多个地理实体和多个关键词,通过将各地理实体与知识图谱进行匹配,可以了解哪些关键词与地理实体有关联及其关联紧密程度,并基于地理实体的词频,关键词的词频以及关联紧密程度计算地理实体重要程度值,再基于地理实体重要程度值与预设的过滤规则确定待处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,不仅提取了该篇网页内容中的地理实体,还提取了其中的关键词,考虑了关键词对地理位置预测的影响。并且,本发明以知识图谱为工具对网页内容的地理位置进行预测,利用知识图谱具有的推理特性去得到文本中关键词和地理实体之间的联系。因此,待处理网页内容地理预测准确度提高。

如图4所示,上述知识图谱的构建方法可以包括:

s201,获取目标文本内容。

该步骤可以位于图1所示实施例的步骤s101之前,在本发明实施例中,目标文本内容为包含预设地名的网页页面对应的文本内容,其中,预设地名可以是预设地理信息表中的地名,预设地理信息表中包含地名、所属省市区等信息。需要说明的是,上述预设地名和预设地理信息表可以由技术人员根据实际业务需求设置,本发明实施例不做具体限定??梢栽谒阉饕嬷兴阉髟ど璧孛?,得到与预设地名相关的网页,再利用python技术获取得到的相关网页的文本内容,并将该文本内容作为目标文本内容。

s202,提取目标文本内容中的多个第三地理实体、多个第三关键词、目标对应关系以及第三地理实体间的对应关系。

本发明实施例中,提取出的第三关键词,实质上是非地理实体,可以用关系抽取技术提取出目标文本内容中的多个三元组,一个三元组中包含了一个目标对应关系,以及具有目标对应关系的一个第三地理实体和一个第三关键词,另一种三元组中包含了第三地理实体间的对应关系,以及具有对应关系的两个第三地理实体,其中,目标对应关系为:多个第三地理实体和多个第三关键词中,具有关联属性的第三地理实体和第三关键词之间的关系,示例性地,在(北京市,行政区类,直辖市)这个三元组中“北京市”和“直辖市”的关联属性就是“行政区类”。目前主流的关系抽取技术包括基于规则的方法、基于机器学习的方法以及基于神经网络的方法。三元组有两种表达形式,分别为(实体1-关系-实体2)和(实体-属性-属性值),本申请中的目标关系可以是两种表达形式中的关系和属性,第三关键词可以是两种表达形式中的实体2和属性值,第三地理实体可以是两种表达形式中的实体1、实体2和实体。层级关系用于表示第三地理实体间的地理范围的包含关系,示例性地,“海淀区”的地理范围小于“北京市”且“海淀区”在地理范围上包含于“北京市”,因此“海淀区”的层级低于“北京市”。

s203,使用递归算法从第三地理实体间的对应关系中提取第三地理实体间的层级关系。

在本发明实施例中,可以基于递归算法提取地理实体间的层级关系,递归算法实际上是程序的自身调用,把一个大的复杂的问题层层转换为一个小的和原问题相似的问题来求解,示例性地,提取到(海淀区,隶属于,北京市)和(北京市,隶属于,中国)两个三元组时,通过递归算法可以获取到“海淀区”隶属于“中国”的层级关系。

s204,利用具有目标对应关系的第三地理实体和第三关键词,目标对应关系,第三地理实体间的对应关系以及层级关系,构建初始知识图谱。

在本发明实施例中,提取出多个三元组后,对这些三元组进行知识融合处理,得到初始知识图谱。知识融合主要解决的问题是实体对齐,实体对齐是为了消除从不同网页的目标文本内容中提取的不同的第三地理实体间的差异性,其方法包括成对实体对齐方法、局部集体实体对齐方法等。

s205,计算目标对应关系的权重,并将目标对应关系的权重添加至初始知识图谱中,得到知识图谱。

在本发明实施例中,目标对应关系的权重表示第二地理实体与第二关键词间的关联程度,将目标对应关系的权重添加至初始知识图谱,后续计算候选地理实体的重要程度值时更加便利。

作为本发明实施例一种可选的实施方式,如图5所示,上述步骤s205具体包括:

s2051,将一个目标对应关系,以及具有目标对应关系的一个第三地理实体和一个第三关键词,确定为一个三元组。

本发明实施例中,只有当三元组中的第三地理实体、第三关键词以及目标对应关系完全相同才能作为一个三元组,示例性地,(北京市,行政区类,直辖市)和(北京市,方言,北京话)虽然只有第三关键词和目标对应关系是不同的,但它们也不是一个三元组。

s2052,将第三地理实体间的对应关系,以及具有对应关系的两个第三地理实体,确定为一个三元组。

s2053,利用第一预设表达式,计算置信度。

在本发明实施例中,置信度表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,在三元组总个数中的比例,

第一预设表达式为:

式中,tr表示置信度,tc表示具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,ttc表示三元组总个数。

三元组置信度的值所在范围为[0,1],具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的置信度的值越大,则该具有相同目标对应关系、相同第三地理实体及相同第三关键词的三元组的个数,在三元组总个数中的比例就越大。

s2054,利用第二预设表达式,计算各第二关键词的稀缺度,第二预设表达式为:

式中,egda表示一个第二关键词的稀缺度,ec表示初始知识图谱的边数,其中,初始知识图谱中的边表示一个第二地理实体与一个第二关键词间的对应关系或第二地理实体间的对应关系,ed表示第二关键词在初始知识图谱中具有的边数。

一个第二关键词的稀缺度越大,说明与该第二关键词对应的第二地理实体越少,即该第二关键词与它所对应的地理实体关联程度更加紧密。

s2055,利用第三预设表达式,计算目标对应关系的权重,第三预设表达式为:

ew=tr*egda

式中,ew表示目标对应关系的权重,tr表示置信度,egda表示一个第二关键词的稀缺度。

在本发明实施例中,一个三元组中的目标对应关系权重和置信度,以及该三元组中第二关键词的稀缺度都有关系。示例性地,知识图谱中可以包含如下两个三元组:(北京市,行政区类,直辖市)和(北京市,方言,北京话),在(北京市,行政区类,直辖市)和(北京市,方言,北京话)在待处理内容中的置信度相差不大,而“北京话”的稀缺度又高于“直辖市”的稀缺度时,“方言”这个对应关系的权重就应该大于“行政区类”这个对应关系的权重。

如图6所示,在未获取到第一地理实体情况下,本发明实施例还提供了一种待处理网页内容地理位置预测方法,该方法可以包括:

s301,获取待处理网页内容中的多个第一地理实体和多个第一关键词。

该步骤与图1所示实施例中的步骤s101相同,在此不再赘述。

s302,生成包含多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含多个第一关键词的名称信息和词频的关键词集合。

该步骤与图1所示实施例中的步骤s102相同,在此不再赘述。

s303,将关键词集合中的第一关键词与知识图谱中的第二关键词进行匹配,得到匹配关键词。

可以理解的是,在未获取到第一地理实体的情况下,可以将关键词集合中的第一关键词与知识图谱中的第二关键词进行匹配。

s304,在知识图谱中查找与匹配关键词对应的第二地理实体。

本发明实施例中的知识图谱中包含第二地理实体与第二关键词间的对应关系以及对应关系的权重,可以理解的是,与匹配关键词对应的第二地理实体可能作为待处理网页内容的地理位置预测结果。

s305,将查找到的第二地理实体确定为候选地理实体,并为候选地理实体设置初始词频。

将该候选地理实体的初始词频设置为1,当后续查找其他第一关键词的匹配关键词对应的第二地理实体时,若查找到的第二地理实体是该候选地理实体的话,将该候选地理实体的初始词频加一。

s306,针对确定的候选地理实体,确定匹配关键词与该候选地理实体间对应关系的权重。

在本发明实施例中,匹配关键词与候选地理实体间对应关系的权重是不同的,示例性地,当未从待处理网页内容中提取出地理实体,而关键词集合中存在“北京话”和“直辖市”时,可以在知识图谱中查找到“北京话”的匹配关键词对应的第二地理实体就是“北京市”,即“北京市”与“北京话”的关联程度高,而“直辖市”的匹配关键词对应的第二地理实体可以是“北京市”、“重庆市”等。也就是说,当匹配关键词与候选地理实体间的权重高时,候选地理实体作为待处理网页内容地理位置预测结果的可能性就大。

s307,针对候选地理实体以及该候选地理实体对应的匹配关键词,基于该候选地理实体的初始词频,匹配关键词在关键词集合中具有相同名称的第一关键词的词频,以及匹配关键词与该候选地理实体间对应关系的权重,计算候选地理实体的重要程度值。

将该候选地理实体的初始词频,匹配关键词在关键词集合中具有相同名称的第一关键词的词频,以及匹配关键词与该候选地理实体间对应关系的权重相乘,得到乘积结果,将乘积结果确定为候选地理实体的重要程度值。在本发明实施例中,会出现多个不同的第一关键词在知识图谱中的匹配关键词同时对应一个候选地理实体的情况,此时,需要将该候选地理实体基于不同的第一关键词的词频计算出的重要程度值累加。

s308,根据预设的过滤规则,对候选地理实体进行过滤,得到过滤后的候选地理实体。

该步骤与图1所示实施例中的步骤s106相同,在此不再赘述。

s309,将过滤后得到的候选地理实体确定为待处理网页内容的地理位置预测结果。

该步骤与图1所示实施例中的步骤s107相同,在此不再赘述。

本发明实施例提供的另一种网页内容的地理位置预测方法,在没有从待处理网页内容中提取出地理实体时,将提取出的多个关键词与知识图谱进行匹配,匹配到的关键词在知识图谱中对应的地理实体是可能作为待处理网页内容地理位置预测结果的候选地理实体,基于候选地理实体的词频,关键词的词频以及匹配关键词与候选地理实体对应关系的权重计算候选地理实体的重要程度值,再基于候选地理实体重要程度值与预设的过滤规则确定处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,在没有从待处理网页内容中提取出地理实体的情况下,通过将提取出的关键词与知识图谱进行匹配,可以确定哪些地理实体与关键词有关联及关联程度。因此,在没有从待处理网页内容中提取出地理实体时,可以利用提取出的关键词来对待处理网页内容进行地理位置预测。

如图7所示,本发明实施例还提供了一种网页内容的地理位置预测装置,包括:

第一获取???01,用于获取待处理网页内容中的多个第一地理实体和多个第一关键词。

生成???02,用于生成包含多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含多个第一关键词的名称信息和词频的关键词集合。

第一匹配???03,用于将地理实体集合中的第一地理实体在知识图谱中匹配到的第二地理实体确定为候选地理实体。

第一查找???04,用于针对得到的候选地理实体,在知识图谱中查找目标关键词,并确定目标关键词与该候选地理实体间对应关系的权重。

第一计算???05,用于针对候选地理实体以及该候选地理实体对应的目标关键词,基于该候选地理实体所匹配的第一地理实体在地理实体集合中的词频,目标关键词在关键词集合中具有相同名称的第一关键词的词频,以及目标关键词与该候选地理实体间对应关系的权重,计算候选地理实体的重要程度值。

过滤???06,用于根据预设的过滤规则,对候选地理实体进行过滤,得到过滤后的候选地理实体。

第一确定???07,用于将过滤后得到的候选地理实体确定为待处理网页内容的地理位置预测结果。

如图8所示,作为本发明实施例一种可选的实施方式,上述第一计算???05包括:

第四计算子???051,用于针对候选地理实体所匹配的第一地理实体,将该第一地理实体在地理实体集合中的词频,目标关键词在关键词集合中具有相同名称的第一关键词的词频,以及目标关键词与该候选地理实体间对应关系的权重相乘,得到乘积结果。

第三确定子???052,用于将乘积结果确定为候选地理实体的重要程度值。

如图9所示,作为本发明实施例一种可选的实施方式,上述过滤???06包括:

删除子???061,用于针对候选地理实体集合中的各候选地理实体,删除目标删除候选地理实体,并将最高重要程度值候选地理实体移至新的候选地理实体集合。

第五计算子???062,用于针对删除目标删除候选地理实体及移出最高重要程度值候选地理实体后的候选地理实体集合,将剩余的候选地理实体的重要程度值,分别与最高重要程度值候选地理实体的重要程度值作差,得到多个差值。

移动子???063,用于将差值小于第二预设重要程度阈值的候选地理实体移至新的候选地理实体集合。

第四确定子???064,用于针对新的候选地理实体集合中的各候选地理实体,将层级最低的候选地理实体确定为过滤后的候选地理实体。

在图7所示装置结构的基础上,如图10所示,本发明实施例的网页内容的地理位置预测装置还可以包括:

第二获取???01,用于获取目标文本内容。

第一提取???02,用于提取目标文本内容中的多个第三地理实体、多个第三关键词、目标对应关系以及第三地理实体间的对应关系。

第二提取???03,用于使用递归算法从第三地理实体间的对应关系中提取第三地理实体间的层级关系。

构建???04,用于利用具有目标对应关系的第三地理实体和第三关键词,目标对应关系,第三地理实体间的对应关系以及层级关系,构建初始知识图谱。

第二计算???05,用于计算目标对应关系的权重,并将目标对应关系的权重添加至初始知识图谱中,得到知识图谱。

如图11所示,作为本发明实施例一种可选的实施方式,上述第二计算???05包括:

第一确定子???051,用于将一个目标对应关系,以及具有目标对应关系的一个第三地理实体和一个第三关键词,确定为一个三元组。

第二确定子???052,用于将第三地理实体间的对应关系,以及具有对应关系的两个第三地理实体,确定为一个三元组。

第一计算子???053,用于利用第一预设表达式,计算置信度。

第二计算子???054,用于利用第二预设表达式,计算各第二关键词的稀缺度。

第三计算子???055,用于利用第三预设表达式,计算目标对应关系的权重。

如图12所示,作为本发明实施例一种可选的实施方式,在图7所示装置结构的基础上,本发明实施例的一种网页内容的地理位置预测装置,还可以包括:

第二匹配???01,用于将关键词集合中的第一关键词与知识图谱中的第二关键词进行匹配,得到匹配关键词。第二查找???02,用于在知识图谱中查找与匹配关键词对应的第二地理实体。第二确定???03,用于将查找到的第二地理实体确定为候选地理实体,并为候选地理实体设置初始词频。第三确定???04,用于针对确定的候选地理实体,确定匹配关键词与该候选地理实体间对应关系的权重。第三计算???05,用于针对候选地理实体以及该候选地理实体对应的匹配关键词,基于该候选地理实体的初始词频,匹配关键词在关键词集合中具有相同名称的第一关键词的词频,以及匹配关键词与该候选地理实体间对应关系的权重,计算重要程度值。

本发明实施例提供的一种网页内容的地理位置预测装置,从待处理网页内容中获取多个地理实体和多个关键词,通过将各地理实体与知识图谱进行匹配,可以了解哪些关键词与地理实体有关联及其关联紧密程度,并基于地理实体的词频,关键词的词频以及关联紧密程度计算地理实体重要程度值,再基于地理实体重要程度值与预设的过滤规则确定待处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,不仅提取了该篇网页内容中的地理实体,还提取了其中的关键词,考虑了关键词对地理位置预测的影响。并且,本发明以知识图谱为工具对网页内容的地理位置进行预测,利用知识图谱具有的推理特性去得到文本中关键词和地理实体之间的联系。因此,待处理网页内容地理预测准确度提高。

本发明实施例还提供了一种电子设备,如图13所示,包括处理器701、通信接口702、存储器703和通信总线704,其中,处理器701,通信接口702,存储器703通过通信总线704完成相互间的通信,存储器703,用于存放计算机程序。处理器701,用于执行存储器703上所存放的程序时,实现如下步骤:

获取待处理网页内容中的多个第一地理实体和多个第一关键词。生成包含多个第一地理实体的名称信息和词频的地理实体集合,以及生成包含多个第一关键词的名称信息和词频的关键词集合。将地理实体集合中的第一地理实体在知识图谱中匹配到的第二地理实体确定为候选地理实体。针对得到的候选地理实体,在知识图谱中查找目标关键词,并确定目标关键词与该候选地理实体间对应关系的权重。针对候选地理实体以及该候选地理实体对应的目标关键词,基于该候选地理实体所匹配的第一地理实体在地理实体集合中的词频,目标关键词在关键词集合中具有相同名称的第一关键词的词频,以及目标关键词与该候选地理实体间对应关系的权重,计算候选地理实体的重要程度值。根据预设的过滤规则,对候选地理实体进行过滤,得到过滤后的候选地理实体。将过滤后得到的候选地理实体确定为待处理网页内容的地理位置预测结果。

上述电子设备提到的通信总线可以是外设部件互连标准(peripheralcomponentinterconnect,pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(randomaccessmemory,ram),也可以包括非易失性存储器(non-volatilememory,nvm),例如至少一个磁盘存储器??裳〉?,存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,cpu)、网络处理器(networkprocessor,np)等;还可以是数字信号处理器(digitalsignalprocessing,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现场可编程门阵列(field-programmablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

本发明实施例提供的一种电子设备,从待处理网页内容中获取多个地理实体和多个关键词,通过将各地理实体与知识图谱进行匹配,可以了解哪些关键词与地理实体有关联及其关联紧密程度,并基于地理实体的词频,关键词的词频以及关联紧密程度计算地理实体重要程度值,再基于地理实体重要程度值与预设的过滤规则确定处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,不仅提取了该篇网页内容中的地理实体,还提取了其中的关键词,考虑了关键词对地理位置预测的影响,并以知识图谱为工具对网页内容的地理位置进行预测,利用知识图谱具有的推理特性去得到文本中关键词和地理实体之间的联系。因此,待处理网页内容地理预测准确度提高。

在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述任一一种网页内容的地理位置预测方法的步骤。

本发明实施例提供的一种计算机可读存储介质,从待处理网页内容中获取多个地理实体和多个关键词,通过将各地理实体与知识图谱进行匹配,可以了解哪些关键词与地理实体有关联及其关联紧密程度,并基于地理实体的词频,关键词的词频以及关联紧密程度计算地理实体重要程度值,再基于地理实体重要程度值与预设的过滤规则确定处理网页内容地理位置预测结果??杉?,本发明实施例在对待处理网页内容进行地理位置预测时,不仅提取了该篇网页内容中的地理实体,还提取了其中的关键词,考虑了关键词对地理位置预测的影响,并以知识图谱为工具对网页内容的地理位置进行预测,利用知识图谱具有的推理特性去得到文本中关键词和地理实体之间的联系。因此,待处理网页内容地理预测准确度提高。

对于装置/存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。需要说明的是,本发明实施例的装置及存储介质分别是应用上述一种网页内容的地理位置预测方法的装置及存储介质,则上述一种网页内容的地理位置预测方法的所有实施例均适用于该装置及存储介质,且均能达到相同或相似的有益效果。

需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的?;し段?。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的?;し段?。

再多了解一些
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1
北京赛车pk10稳定计划 天天棋牌| 棋牌游戏| 天天棋牌| 棋牌游戏| 斗牛棋牌|