事理逻辑知识是指事件在时间和空间上发生和演化的规律和模式,包括事件之间的顺承、因果、条件、蕴含和上下位等关系。这是一种非常有价值的知识类型,挖掘这种知识对我们认识人类行为和社会发展变化规律非常有意义,对于人工智能领域的多种任务具有非常巨大的应用价值。然而,以知识图谱为代表,现有的大型公开知识库普遍是以实体及实体间的关系为核心,未能对事理逻辑这一类重要常识知识进行存储和表示。为了对传统知识图谱的表征能力进行补充,本文将知识图谱的研究中心从名词性实体转移到动词性事件上来,从而提出了事理图谱的概念。作为一种新的知识表示形式,事理图谱（Eventic Graph,EG）是一个描述事件之间演化规律和模式的事理逻辑知识库。结构上,事理图谱是一个有向图,其中节点代表事件,有向边代表事件之间的顺承、因果、条件、蕴含和上下位等事理逻辑关系。本文从事理图谱的基本概念入手,探究了基于文本的事理图谱抽取式构建方法,提出了基于端到端神经网络的因果事理知识生成方法,并探索了事理图谱在文本事件预测、因果关系分类等文本事件关系推理任务上的应用方法。具体来说本研究的主要内容包括以下四个方面:1.基于文本事件关系抽取的事理图谱构建。本文提出了事理图谱,描述了事理图谱相关的基本概念。以出行领域事件顺承关系为切入点,本文提出了一套构建事理图谱的方法框架。基于此框架,本文构建了中文出行领域顺承关系事理图谱,包含近3万事件节点和23万多条顺承关系有向边。此外,针对金融领域以因果关系为核心的特点,本文还构建了金融领域因果事理图谱,包含219万事件节点和161万条因果关系。2.基于因果知识生成的事理图谱补全。本文探索了基于端到端神经网络的因果事理知识生成技术,对于任意的开放域句子级事件输入,可生成多个可能的句子级原因或者结果。本文开发了一个大规模的英文因果数据集Causal Bank用于训练模型。此外,本文还扩展了关键词约束的文本生成解码模块,使之可以支持析取正约束解码。人工和自动评估指标表明,即使对于全新的输入,该方法也可以生成高质量、多语义的原因和结果。本文的生成式因果知识获取是对抽取式方法的重要补充。3.基于可迁移预训练模型的故事结尾预测。本研究探索了在已经得到大量事理知识三元组的情况下,如何将事理知识跟预训练语言模型相结合,把事理知识注入到预训练语言模型中,从而帮助提升事件预测、因果推理等下游任务的性能。我们提出了一个叫做Trans BERT的三阶段训练框架。它不仅可以学习大规模未标注数据中的通用语言知识,而且可以有效利用各种语义相关任务提供的有监督信息。在故事结尾预测、因果对关系分类等多个数据集上的实验结果表明,Trans BERT可以很好地扩展到其他任务、语言和预训练模型上。4.基于可扩展图神经网络的脚本事件预测。事理图谱本身是一个图谱状结构。本文还探索了如何直接在事理图谱的图结构上进行事件的推理和预测。具体地,本文提出了一个可扩展的图神经网络模型,通过每次只在一个子图结构上进行网络事件表示学习,将大规模事理图谱图结构和端到端的图神经网络训练方法结合起来。基于事理图谱图结构和图神经网络的方法,在脚本事件预测任务上显示出了优越的性能,表明了事理图谱在事件预测任务上具有极大的应用价值。总的来说,本文在事理图谱的抽取式构建、因果事理知识的生成式补全、事理图谱在文本事件关系推理任务上的应用等方面展开了研究。本文的研究只是在事理图谱研究方向的一个初步探索,希望本研究能够为事理图谱未来的研究和发展提供一定的启发。