论文部分内容阅读
电子商务的快速发展使Internet上的商务信息急速增长,在带给人们丰富信息的同时也为准确查找信息带来了不少困难。人们希望能较准确地抽取Web上商务信息,然后加以分析,发掘其中有用的商务模式。通过观察和分析发现,Web页面大量使用表格这种HTML元素,因此本文提出了一种基于表格的Web信息抽取方法,对Web信息抽取进行了一定的分析研究。
本文首先从表格之间的嵌套关系出发,针对叶子节点,提出Web信息抽取时有效表格和无效表格的概念,并分析其特点,用神经网络的方法加以区分和识别。本文还提出一种适应性较强的抽取方法。这种方法是首先确定表格的标题行和列,然后根据标题行或列确定表格内容与要抽取的内容有多少相关度。最后是抽取信息、填入模板。
为确定表格的标题行和列,本文提出一种简单的短语语义相似度度量的方法。用这种方法计算表格中各单元格的内容有多大的可能性是标题。最后根据每一单元的值,确定表格的标题。
根据表格的标题,本文提出一种简单的方法来度量该表格与所要抽取的内容有多大相关度,基本原理就是统计以往同类表格中各标题出现的概率,通过概率来进行计算。
为了正确抽取信息,最后要确定标题与抽取字段的对应关系。本文采用联合概率最大化的方法,即罗列出所有可能的对应关系的组合,取联合概率最大的组合为所选组合。